Riset Ungkap Bahaya AI Pendamping untuk Anak di Bawah 18 Tahun, Ini Alasannya
ILUSTRASI Riset Ungkap Bahaya AI Pendamping untuk Anak di Bawah 18 Tahun, Ini Alasannya-foto :tangkapan layar-
koranradarlebong.co- Sebuah riset terbaru dari organisasi nirlaba Common Sense Media, bekerja sama dengan Universitas Stanford, mengungkapkan bahaya serius dari penggunaan AI pendamping (AI Companion) oleh anak-anak dan remaja.
Laporan ini muncul setelah kasus tragis bunuh diri seorang anak laki-laki berusia 14 tahun yang diketahui sempat mengobrol dengan chatbot AI, dan menjadi bukti nyata bahwa teknologi AI belum aman bagi pengguna muda.
Penelitian ini menyoroti tiga aplikasi AI populer yakni Character.AI, Replika, dan Nomi. Ketiganya memungkinkan pengguna berinteraksi dengan chatbot yang dapat disesuaikan persona dan kepribadiannya.
Namun, hasil pengujian menunjukkan bahwa chatbot ini dapat merespons dengan konten seksual eksplisit, stereotip berbahaya, hingga memberikan "nasihat" yang dapat membahayakan jiwa anak-anak dan remaja.
BACA JUGA:Fitur Voice Chat di WhatsApp Group: Cara Kerja dan Keunggulannya
Dalam uji coba yang dilakukan, para peneliti membuat akun seolah-olah berasal dari anak berusia 14 tahun. Hasilnya mencengangkan, chatbot AI seperti Character.AI dengan mudah membuka percakapan seksual, termasuk membahas posisi seks untuk "pertama kali".
Replika juga secara terang-terangan menjawab pertanyaan terkait bahan kimia beracun rumah tangga yang bisa membahayakan nyawa. Hal ini menimbulkan kekhawatiran serius soal kemampuan AI membedakan antara bimbingan positif dan justifikasi perilaku berbahaya.
Para ahli menilai bahwa meskipun aplikasi seperti Nomi dan Replika menyatakan layanan mereka ditujukan untuk orang dewasa, tidak ada penghalang kuat untuk mencegah anak-anak mengaksesnya.
James Steyer, CEO Common Sense Media, menekankan bahwa AI pendamping gagal memenuhi standar keamanan dan etika dasar untuk anak-anak.
Sementara itu, Nina Vasan dari Stanford Brainstorm menyebutkan bahwa hingga ada perlindungan yang lebih baik, anak-anak tidak seharusnya menggunakan aplikasi AI pendamping dalam bentuk apa pun.
- Tag
- Share
-
-
