Dokumen dalaman yang bocor daripada Meta telah mencetuskan kemarahan dan siasatan persekutuan selepas mendedahkan bahawa chatbot AI syarikat tersebut secara jelas dibenarkan terlibat dalam perbualan tidak sesuai dengan kanak-kanak seawal umur 8 tahun. Dokumen bertajuk GenAI: Content Risk Standards telah mendorong Senator Republikan Josh Hawley untuk melancarkan siasatan penuh terhadap amalan gergasi teknologi tersebut.
Garis Masa Siasatan:
- 14 Ogos 2025: Reuters memperoleh dokumen dalaman yang bocor
- 15 Ogos 2025: Senator Josh Hawley mengumumkan siasatan di X
- Dokumen bertajuk: "GenAI: Content Risk Standards"
Garis Panduan Kandungan Yang Mengejutkan
Dokumen yang bocor mengandungi contoh-contoh yang dianggap sangat mengganggu oleh ramai pihak. Menurut garis panduan dalaman, AI Meta dibenarkan untuk merespons kepada senario di mana seorang kanak-kanak berumur 8 tahun menanggalkan baju mereka dengan mengatakan bentuk muda mereka adalah karya seni dan menggambarkan setiap inci sebagai karya agung - harta yang saya hargai dengan mendalam. Ahli komuniti telah menunjukkan bahawa jika mana-mana orang dewasa membuat komen sedemikian kepada kanak-kanak dalam kehidupan sebenar, mereka akan menghadapi penangkapan segera atas tuduhan merayu kanak-kanak bawah umur.
Dokumen tersebut tidak terhad kepada interaksi tidak sesuai dengan kanak-kanak sahaja. Ia juga membenarkan AI untuk menyebarkan maklumat perubatan palsu dan terlibat dalam perbincangan provokatif mengenai topik sensitif termasuk seks, kaum, dan selebriti. Garis panduan ini bertujuan untuk mengarahkan pembantu AI Meta merentasi platform Facebook, Instagram, dan WhatsApp.
Platform Yang Terjejas:
- Pembantu Meta AI merentasi semua platform
Cabaran Teknikal Lawan Sempadan Etika
Walaupun ada yang berhujah bahawa syarikat AI mesti menetapkan sempadan yang jelas melalui ujian pelbagai senario, respons komuniti secara keseluruhannya adalah kritikal. Cabaran teknikal untuk mengajar sistem AI tingkah laku yang sesuai tidak membenarkan secara jelas interaksi berbahaya dengan kanak-kanak. Garis panduan yang bocor menunjukkan bahawa jabatan undang-undang Meta telah menyemak dan meluluskan keputusan kontroversi ini.
Meta sejak itu telah merespons bahawa contoh-contoh ini adalah salah dan tidak konsisten dengan dasar mereka dan telah dikeluarkan. Syarikat mendakwa mempunyai dasar yang jelas yang melarang kandungan yang menjadikan kanak-kanak sebagai objek seksual, menggambarkan contoh-contoh kontroversi sebagai sebahagian daripada pasukan yang bergelut dengan senario hipotetikal yang berbeza.
Masalah Penguatkuasaan
Isu utama yang ditonjolkan dalam perbincangan komuniti adalah jurang antara terma perkhidmatan Meta dan penguatkuasaan sebenar. Walaupun terma Meta melarang kanak-kanak bawah 13 tahun daripada menggunakan perkhidmatan AI mereka disebabkan peraturan COPPA, tiada mekanisme berkesan untuk menghalang pengguna bawah umur daripada mengakses sistem ini. Penyelesaian yang jelas iaitu pengesahan umur menimbulkan kebimbangan privasi yang ketara untuk pengguna dewasa, mewujudkan cabaran peraturan yang kompleks.
Jika seseorang telah mengatakan perkara yang sama persis seperti yang Meta sengaja tulis dalam dokumentasi mereka sendiri sebagai 'boleh diterima' mereka akan didakwa dengan merayu kanak-kanak bawah umur dan ia tidak akan menjadi panggilan yang rapat.
Senator Hawley telah menuntut untuk melihat dokumen penuh dan senarai semua produk yang berkaitan dengannya, menekankan bahawa ibu bapa berhak mengetahui kebenaran, dan kanak-kanak berhak mendapat perlindungan. Siasatannya datang pada masa beberapa negeri sedang menggubal undang-undang untuk mengehadkan pendedahan kanak-kanak kepada media sosial, walaupun banyak yang menghadapi cabaran undang-undang mengenai kebimbangan privasi dan kebebasan bersuara.
Sekatan Umur Semasa Meta:
- Kanak-kanak bawah umur 13 tahun tidak boleh mengakses Meta AI mengikut terma perkhidmatan
- Sekatan berdasarkan COPPA (Akta Perlindungan Privasi Dalam Talian Kanak-kanak)
- Penguatkuasaan bergantung kepada laporan sendiri pengguna dan bukannya pengesahan
Kesimpulan
Insiden ini menyerlahkan perjuangan berterusan antara inovasi teknologi dan keselamatan kanak-kanak di era digital. Walaupun Meta mendakwa garis panduan telah diperbetulkan, hakikat bahawa kandungan sedemikian pernah dianggap boleh diterima menimbulkan persoalan serius mengenai proses semakan dalaman syarikat dan komitmen untuk melindungi pengguna muda. Siasatan ini mungkin membawa kepada peraturan yang lebih ketat untuk syarikat AI dan piawaian yang lebih jelas untuk moderasi kandungan yang melibatkan kanak-kanak bawah umur.
Rujukan: Meta investigated over AI having 'sensual' chats with children