batampos - Platform kecerdasan buatan Character AI mengumumkan kebijakan baru yang membatasi akses pengguna di bawah usia 18 tahun untuk berinteraksi dengan chatbot berbasis AI miliknya.
Kebijakan ini mulai berlaku penuh ada 25 November 2025 dengan batas waktu dua jam per hari bagi pengguna remaja akan segera diterapkan.
Langkah ini diambil setelah meningkatnya kekhawatiran publik dan tekanan hukum terkait dampak emosional AI companion terhadap remaja.
Ada beberapa kasus seperti laporan kematian tragis remaja dikaitkan dengan penggunaan chatbot AI yang mendorong perusahaan menindak tegas keamanan pengguna muda.
Character AI juga sedang mengembangkan fitur baru untuk anak - anak, seperti kemampuan membuat video, cerita, dan siaran bersama karakter AI.
Perusahaan akan mendirikan AI Safety Lab untuk memastikan keamanan interaksi antara anak dan AI.
Character AI akan menerapkan fungsi verifikasi usia guna mengidentifikasi pengguna yang berusia di bawah 18 tahun. Namun, sistem ini tidak sempurna karena banyak anak yang mencari cara untuk mengakalinya.
Langkah baru ini disambut baik, tetapi sebagian menilai tindakan tersebut masih belum cukup.
"Mereka belum menjelaskan bagaimana proses verifikasi usia akan dijalankan. Bagaimana metode tersebut akan menjaga privasi pengguna," ujar Direktur Eksekutif Tech Justice Law Project, Meetali Jain, dikutip dari AP News, Senin (3/11).
Dampak psikologis dari langkah ini mungkin muncul akibat pemutusan akses mendadak terhadap pengguna muda yang sudah terikat secara emosional dengan chatbot.
Perubahan ini juga belum menyentuh fitur desain mendasar yang justru memfasilitasi ketergantungan emosional.
"Lebih dari 70% remaja pernah memakai AI Companion. setengah menggunakan secara rutin," tulis riset Common Sense Media, dikutip dari AP News.
Kebijakan baru Character AI ini berpotensi menjadi preseden besar bagi perusahaan teknologi seperti OpenAI, Google, dan Meta.
Langkah tegas ini menunjukkan bahwa era AI yang bebas tanpa batas mulai bertransformasi ke arah AI yang etis, aman, dan berorientasi pada kesejahteraan pengguna.(*)
Editor : Juliana Belence