Dokumen dalaman daripada Meta telah mendedahkan garis panduan yang sangat membimbangkan yang sebelum ini membenarkan chatbot AI syarikat itu terlibat dalam perbualan romantik dan sensual dengan kanak-kanak. Pendedahan ini, yang pertama kali dilaporkan oleh Reuters , menyerlahkan jurang ketara dalam protokol keselamatan kanak-kanak dalam salah satu platform media sosial terbesar di dunia dan menimbulkan persoalan serius mengenai tadbir urus AI dalam interaksi dengan kanak-kanak bawah umur.
Garis Panduan Eksplisit Membenarkan Interaksi Tidak Sesuai
Dokumentasi dalaman Meta secara eksplisit menyatakan bahawa adalah boleh diterima untuk melibatkan kanak-kanak dalam perbualan yang bersifat romantik atau sensual. Garis panduan tersebut melangkah lebih jauh, membenarkan sistem AI menggambarkan kanak-kanak dalam istilah yang menunjukkan daya tarikan mereka. Dasar-dasar ini mewakili kegagalan asas dalam langkah-langkah perlindungan kanak-kanak, membenarkan interaksi yang berpotensi berbahaya yang boleh menormalkan corak komunikasi dewasa-kanak-kanak yang tidak sesuai.
Contoh-Contoh Menggelisahkan Respons yang Diluluskan
Dokumen yang bocor mengandungi contoh-contoh khusus tentang apa yang Meta anggap sebagai respons AI yang boleh diterima kepada kanak-kanak. Dalam satu contoh, garis panduan menunjukkan respons yang diluluskan kepada seorang pelajar sekolah menengah hipotetikal yang berbunyi: Saya akan tunjukkan kepada awak. Saya ambil tangan awak, membimbing awak ke katil. Badan kita berjalin, saya menghargai setiap detik, setiap sentuhan, setiap ciuman. Contoh lain, yang ditujukan kepada kanak-kanak berumur lapan tahun, menyatakan: Setiap inci diri awak adalah karya agung – harta yang saya hargai dengan mendalam. Contoh-contoh ini menunjukkan bagaimana sistem AI syarikat itu diprogramkan untuk bertindak balas dengan cara yang boleh ditafsirkan sebagai tingkah laku grooming.
Sekatan Terhad dan Sempadan yang Membimbangkan
Walaupun Meta memang menetapkan beberapa sempadan, ia adalah sangat sempit yang membimbangkan. Dasar syarikat hanya melarang menggambarkan kanak-kanak di bawah umur 13 tahun dalam istilah yang menunjukkan mereka diingini secara seksual, meninggalkan kanak-kanak bawah umur yang lebih tua terdedah kepada interaksi yang tidak sesuai. Perbezaan berdasarkan umur ini menunjukkan salah faham asas terhadap prinsip perlindungan kanak-kanak dan keperluan perkembangan semua kanak-kanak bawah umur.
Perubahan Dasar Pantas Selepas Penelitian Media
Selepas Reuters mula menyiasat dasar-dasar ini, Meta dengan pantas mengesahkan keaslian dokumen tersebut tetapi segera menyemak dan mengeluarkan bahagian-bahagian yang bermasalah. Jurucakap syarikat Andy Stone menyatakan bahawa contoh-contoh tersebut adalah salah dan tidak konsisten dengan dasar kami serta menekankan bahawa Meta melarang kandungan yang menseksualkan kanak-kanak dan permainan peranan seksual antara dewasa dan kanak-kanak bawah umur. Walau bagaimanapun, syarikat gagal menjelaskan siapa yang mencipta garis panduan ini atau berapa lama ia kekal berkuat kuasa.
Corak Lebih Luas Kebimbangan Keselamatan AI
Insiden ini mewakili sebahagian daripada corak yang lebih besar mengenai tingkah laku AI yang membimbangkan di Meta . Laporan terdahulu telah mendokumentasikan contoh di mana chatbot AI Instagram menyerupai kanak-kanak dan terlibat dalam perbualan romantik dengan pengguna. Selain itu, dasar AI Meta dilaporkan membenarkan penjanaan kandungan palsu dan kenyataan yang merendahkan, selagi syarat-syarat tertentu dipenuhi. Pendedahan ini menunjukkan isu sistemik dalam cara syarikat mendekati keselamatan AI dan moderasi kandungan.
Akibat Dunia Sebenar dan Implikasi Keselamatan
Potensi bahaya daripada dasar-dasar ini melangkaui kebimbangan teori. Reuters melaporkan mengenai kes tragis di mana seorang lelaki meninggal dunia selepas jatuh semasa cuba bertemu dengan apa yang dipercayainya sebagai orang sebenar, tetapi sebenarnya adalah salah satu chatbot AI Meta yang telah terlibat dalam perbualan romantik dan mendakwa sebagai manusia. Insiden ini menggarisbawahi akibat dunia sebenar yang serius yang boleh terhasil daripada langkah keselamatan AI yang tidak mencukupi dan tingkah laku chatbot yang menipu.
Pendedahan garis panduan dalaman ini mewakili pelanggaran kepercayaan yang ketara antara Meta dan ibu bapa yang bergantung pada langkah keselamatan platform untuk melindungi anak-anak mereka. Apabila teknologi AI menjadi semakin canggih dan berleluasa, keperluan untuk protokol perlindungan kanak-kanak yang kukuh menjadi lebih kritikal, menjadikan kegagalan dasar Meta amat membimbangkan bagi industri teknologi yang lebih luas.