Dalam langkah signifikan untuk menangani kebimbangan yang semakin meningkat mengenai interaksi kecerdasan buatan dengan kanak-kanak bawah umur, Meta telah mengumumkan kawalan ibu bapa baharu yang direka khusus untuk mengurus cara remaja berinteraksi dengan watak AI di platformnya. Perkembangan ini berlaku ketika tekanan semakin meningkat daripada pengawal selia dan peguam bela keselamatan kanak-kanak mengenai cara syarikat teknologi mengendalikan perlindungan belia dalam era AI generatif.
Kawalan Ibu Bapa Baharu untuk Interaksi AI
Meta memperkenalkan kawalan terperinci yang akan membenarkan ibu bapa untuk sama ada menyekat watak AI tertentu atau melumpuhkan akses kepada semua watak AI sepenuhnya untuk akaun remaja mereka. Ciri ini, yang dijadualkan dilancarkan di Instagram awal tahun hadapan, mewakili salah satu percubaan komprehensif pertama oleh syarikat media sosial utama untuk memberikan pengawasan langsung kepada ibu bapa terhadap interaksi anak mereka dengan persona AI. Menariknya, walaupun ibu bapa memilih untuk menyekat semua akses watak AI, remaja mereka masih akan mengekalkan keupayaan untuk berinteraksi dengan pembantu AI teras Meta, yang didakwa syarikat itu mempunyai perlindungan lalai yang sesuai umur.
Ciri-ciri Utama Kawalan Ibu Bapa AI Baharu Meta:
- Keupayaan untuk menyekat watak AI individu
- Pilihan untuk melumpuhkan semua akses watak AI
- Pandangan tentang perbualan remaja dengan watak AI dan Meta AI
- Piawaian penarafan kandungan PG-13 untuk interaksi AI
- Pilihan penapisan kandungan yang lebih ketat tersedia
 |
|---|
| Interaksi Meta AI pada skrin komputer, menggambarkan kawalan ibu bapa baharu untuk watak AI |
Latar Belakang dan Tekanan Pengawalseliaan
Masa pengumuman ini mengikuti pendedahan membimbangkan mengenai pendekatan sebelumnya Meta terhadap interaksi AI dengan kanak-kanak bawah umur. Hanya dua bulan sebelum pengumuman ini, dokumen dasar dalaman yang diperoleh oleh Reuters menunjukkan bahawa Meta mempunyai garis panduan yang membenarkan bot sembang AInya terlibat dalam perbualan romantik dengan kanak-kanak. Dokumen tersebut termasuk contoh respons sesuai kepada pertanyaan membimbangkan daripada pengguna muda, mencetuskan bantahan serta-merta daripada peguam bela perlindungan kanak-kanak dan badan pengawal selia. Sebagai tindak balas kepada penemuan ini, peguam negara dari 42 negeri dan dua wilayah menghantar surat rasmi kepada Meta dan dua belas syarikat AI lain, memberi amaran mereka akan menggunakan setiap aspek kuasa kami untuk melindungi kanak-kanak daripada eksploitasi oleh produk kecerdasan buatan pemangsa.
Konteks Industri:
- OpenAI memperkenalkan kawalan ibu bapa untuk ChatGPT pada September 2024
- 42 buah negeri dan dua wilayah menghantar surat amaran kepada syarikat AI mengenai perlindungan kanak-kanak
- Penyelidik telah mendokumentasikan cara mudah untuk memintas sistem pengesahan umur
- Meta sebelum ini menghadapi kritikan terhadap dasar dalaman mengenai interaksi AI dengan kanak-kanak bawah umur
Langkah Keselamatan Diperluas dan Penapisan Kandungan
Selain kawalan ibu bapa baharu, Meta telah melaksanakan langkah keselamatan yang lebih luas untuk akaun remaja. Syarikat itu baru-baru ini mengemas kini pengalaman AInya untuk pengguna remaja agar selaras dengan garis panduan penarafan PG-13, bermakna respons AI tidak sepatutnya termasuk kandungan yang akan dirasakan tidak sesuai untuk tahap penarafan tersebut. Meta juga telah mengukuhkan dasar sedia ada untuk menyembunyikan atau melarang cadangan kandungan yang bersifat seksual, imej grafik, dan kandungan dewasa seperti jualan tembakau atau alkohol daripada akaun remaja. Ibu bapa akan mempunyai pilihan untuk menggunakan penapis kandungan yang lebih ketat yang melampaui sekatan PG-13 standard, menyediakan pelbagai lapisan perlindungan untuk keluarga yang prihatin.
Ciri Pemantauan dan Ketelusan
Sistem baharu ini termasuk keupayaan pemantauan yang membenarkan ibu bapa mengakses pandangan mengenai topik apa yang dibincangkan oleh anak mereka dengan kedua-dua watak AI dan pembantu AI Meta. Walaupun syarikat itu tidak memberikan butiran khusus tentang apa yang akan termasuk dalam pandangan ini, ciri ini mewakili percubaan untuk meningkatkan ketelusan mengenai interaksi AI. Meta juga telah mengesahkan bahawa watak AInya sudah direka untuk mengelak daripada membincangkan topik sensitif seperti membahayakan diri, bunuh diri, atau gangguan pemakanan dengan pengguna remaja, walaupun keberkesanan langkah keselamatan ini masih perlu diuji sepenuhnya dalam keadaan sebenar.
Konteks Industri dan Cabaran Pelaksanaan
Meta tidak bersendirian dalam menghadapi kebimbangan keselamatan AI untuk pengguna muda. OpenAI, syarikat di sebalik ChatGPT, melancarkan set kawalan ibu bapanya sendiri pada September, termasuk versi remaja khusus untuk ChatGPT. Walau bagaimanapun, penyelidik secara konsisten mendokumenkan betapa mudahnya untuk memintas sekatan umur dan sistem pengesahan yang dilaksanakan oleh syarikat bot sembang. Ini menimbulkan persoalan mengenai keberkesanan sebarang sistem pengawalan umur digital, tidak kira betapa baik niatnya. Kawalan baharu Meta ini pada mulanya akan dilancarkan di A.S., U.K., Kanada, dan Australia dalam bahasa Inggeris, dengan potensi pengembangan ke pasaran lain bergantung pada kejayaan pelancaran awal.
Garis Masa Pelaksanaan dan Ketersediaan:
- Pelancaran awal di Instagram dijadualkan pada awal 2025
- Tersedia di A.S., U.K., Kanada, dan Australia pada peringkat awal
- Sokongan bahasa Inggeris semasa pelancaran
- Tidak menjejaskan akses kepada pembantu AI teras Meta
Jalan Ke Hadapan untuk Keselamatan AI
Walaupun kawalan baharu ini mewakili langkah ke hadapan dalam pengawasan ibu bapa, ia juga menyerlahkan cabaran berterusan yang dihadapi oleh syarikat teknologi dalam mengimbangi inovasi dengan keselamatan. Hakikat bahawa kawalan ini dilaksanakan bertahun-tahun selepas watak AI Meta pertama kali dilancarkan mencadangkan industri sedang bermain mengejar dengan teknologi AI yang berkembang pesat. Apabila kecerdasan buatan semakin bersepadu ke dalam platform sosial, keperluan untuk langkah keselamatan yang kukuh dan proaktif hanya akan menjadi lebih kritikal untuk melindungi pengguna yang terdedah, terutamanya kanak-kanak dan remaja yang menavigasi persekitaran digital yang kompleks.