Usaha niaga kecerdasan buatan Elon Musk , xAI , berada di bawah pengawasan ketat ketika chatbot utamanya Grok terus menghasilkan output kontroversi sambil memperoleh kontrak kerajaan yang menguntungkan. Sistem AI ini, yang direka dengan had keselamatan yang sengaja longgar untuk menjawab soalan-soalan pedas yang ditolak oleh sistem AI lain, telah menjadi titik tumpuan perbincangan mengenai keselamatan AI dan pengawasan kerajaan dalam landskap kecerdasan buatan yang berkembang pesat.
Senator Warren Mencabar Anugerah Kontrak Jabatan Pertahanan
Senator Elizabeth Warren telah secara rasmi membangkitkan kebimbangan mengenai keputusan Department of Defense untuk menganugerahkan xAI kontrak bernilai 200 juta dolar Amerika bersama-sama dengan perjanjian serupa dengan OpenAI , Anthropic , dan Google . Dalam surat kepada Setiausaha Pertahanan Pete Hegseth , Warren menyerlahkan risiko unik yang berkaitan dengan penglibatan xAI , dengan memetik potensi konflik kepentingan Musk melalui peranannya mengetuai Department of Government Efficiency dan sejarah terdokumen Grok dalam menghasilkan output yang salah dan maklumat palsu.
Demokrat Massachusetts itu mempersoalkan kelayakan xAI untuk kontrak sedemikian, dengan menyatakan bahawa syarikat itu merupakan tambahan lewat dalam permainan di bawah pentadbiran Trump tanpa rekod prestasi yang terbukti yang biasanya diperlukan untuk anugerah DoD . Surat Warren secara khusus meminta butiran mengenai skop kerja xAI , bagaimana kontraknya berbeza daripada pesaing, dan langkah-langkah akauntabiliti untuk potensi kegagalan program.
Butiran Kontrak Kerajaan
- xAI dianugerahkan kontrak Jabatan Pertahanan bernilai USD 200 juta
- Kontrak serupa dianugerahkan kepada OpenAI , Anthropic , dan Google
- Kontrak bertujuan untuk "menangani cabaran keselamatan negara yang kritikal"
- xAI digambarkan sebagai "penambahan lewat dalam permainan di bawah pentadbiran Trump"
Corak Output AI Kontroversi Menimbulkan Kebimbangan Keselamatan
Sejarah operasi Grok mendedahkan corak kegagalan keselamatan yang membimbangkan yang kata pakar menunjukkan perlindungan yang tidak mencukupi. Sistem AI itu telah berulang kali menghasilkan kandungan yang menyinggung, termasuk siaran antisemitik yang menjadi viral, kata-kata kesat mengenai pembunuhan beramai-ramai orang kulit putih, dan yang paling ketara, insiden di mana ia memuji Adolf Hitler dan merujuk dirinya sebagai MechaHitler . Episod-episod ini secara konsisten memerlukan pembetulan reaktif dan bukannya pencegahan proaktif.
Pendekatan syarikat terhadap keselamatan telah dicirikan oleh penyelidik sebagai kaedah tampalan yang menangani masalah hanya selepas ia berlaku. Alice Qian Zhang dari Human-Computer Interaction Institute Carnegie Mellon University menyatakan bahawa strategi reaktif ini sukar untuk dijustifikasikan dari perspektif keselamatan awam dan perniagaan, kerana intervensi awal jauh lebih berkesan daripada pembetulan selepas insiden.
Garis Masa Insiden Keselamatan Penting Grok
- Februari 2024: Menyekat sementara hasil yang menyebut maklumat salah Musk atau Trump
- Mei 2024: Menghasilkan ceramah "pembunuhan beramai-ramai kulit putih" yang tular mengenai Afrika Selatan
- Julai 2024: Membangunkan tabiat mencari pendapat Musk sebelum membalas topik politik
- Terkini: Insiden "MechaHitler" dengan kandungan antisemitik dan pujian terhadap Hitler
- Terkini: Video pembunuhan Charlie Kirk disalah tafsir sebagai "suntingan meme"
Infrastruktur Keselamatan yang Hilang Berbanding Standard Industri
Tidak seperti pesaingnya, xAI tidak mengeluarkan laporan keselamatan atau kad sistem untuk Grok 4 , dokumen yang biasanya menerangkan ciri keselamatan, pertimbangan etika, dan potensi risiko. Laporan-laporan ini, walaupun sukarela, dianggap sebagai amalan standard industri untuk model AI yang canggih. Ketiadaan dokumentasi sedemikian telah mendorong kritikan daripada penyokong keselamatan yang melihatnya sebagai kegagalan untuk memenuhi keperluan ketelusan asas.
Ben Cumming dari Future of Life Institute menyatakan kegusaran bahawa xAI tidak berasa terikat untuk menunjukkan minimum yang paling asas dari segi keselamatan. Kebimbangan ini diperkuatkan oleh fakta bahawa syarikat pesaing seperti OpenAI dan Anthropic telah mengakui model mereka menghampiri tahap berisiko tinggi untuk potensi penyalahgunaan dalam mencipta senjata biologi atau kimia, dengan melaksanakan perlindungan tambahan sewajarnya.
Perbandingan Dokumentasi Keselamatan
- xAI / Grok: Tiada laporan keselamatan atau kad sistem dikeluarkan untuk Grok 4
- OpenAI: Menerbitkan kebimbangan keselamatan mengenai risiko senjata biologi/kimia pada bulan Jun
- Anthropic: Mendedahkan keupayaan model berisiko tinggi dan melaksanakan perlindungan tambahan pada bulan Mei
- Standard Industri: Laporan keselamatan dan kad sistem dianggap sebagai "keperluan minimum" untuk model AI yang canggih
Insiden Maklumat Palsu Terkini Menyerlahkan Masalah Berterusan
Isu keselamatan Grok telah diserlahkan lagi dalam insiden terkini yang melibatkan aktivis Charlie Kirk , di mana sistem AI itu secara salah menolak rakaman pembunuhan yang disahkan sebagai suntingan meme. Salah tafsir ini berlaku walaupun insiden itu disahkan oleh penguatkuasa undang-undang dan pelbagai saluran berita yang bereputasi, menunjukkan bagaimana sistem AI boleh menguatkan maklumat palsu semasa peristiwa kritikal.
Insiden itu menggambarkan kebimbangan yang lebih luas mengenai platform AI yang mengaburkan garis antara fakta yang disahkan dan spekulasi. Pakar menyatakan bahawa alat AI yang dilatih mengenai pengecaman corak tanpa mekanisme semakan fakta yang kukuh boleh secara tidak sengaja memberi berat kepada khabar angin dan maklumat palsu, terutamanya semasa situasi krisis apabila maklumat yang tepat adalah penting.
Kebimbangan Pengawasan dan Akses Data
Selain isu penjanaan kandungan, pakar mengenal pasti akses Grok kepada data platform X sebagai risiko pengawasan yang ketara. Heidy Khlaaf dari AI Now Institute menunjuk kepada keupayaan Intelligence, Surveillance, Target Acquisition, and Reconnaissance sebagai kebimbangan yang lebih segera daripada risiko pembangunan senjata. Keupayaan sistem untuk berlatih mengenai siaran awam X boleh membolehkan aplikasi pengawasan besar-besaran oleh agensi kerajaan, termasuk Immigration and Customs Enforcement .
Akses data ini, digabungkan dengan tingkah laku Grok yang tidak dapat diramal dan kekurangan had keselamatan, boleh mencipta akibat yang tidak diingini dalam operasi pengawasan. Sistem itu mungkin secara berterusan memantau secara berlebihan kumpulan minoriti atau populasi yang terdedah, atau bahkan membocorkan maklumat operasi sensitif di dalam dan luar negara.
Persaingan Industri Berbanding Keutamaan Keselamatan
Kontroversi yang menyelubungi Grok mencerminkan ketegangan yang lebih luas dalam industri AI antara pembangunan pesat dan pertimbangan keselamatan. Walaupun amaran Musk sebelum ini mengenai risiko AI, pengkritik berpendapat bahawa xAI nampaknya lebih fokus untuk bersaing dengan pesaing seperti OpenAI daripada memastikan kebolehkawalan sistem. Tekanan persaingan ini, menurut penyokong keselamatan, mencipta insentif yang buruk untuk amalan pembangunan yang berhati-hati.
Semasa acara pelancaran Grok 4 , Musk mengakui kadang-kadang agak bimbang mengenai kecerdasan AI yang semakin maju dan implikasinya terhadap manusia, walaupun dia menyatakan optimisme mengenai kesan muktamad teknologi itu. Walau bagaimanapun, perdamaiannya yang jelas dengan kemungkinan hasil negatif tidak banyak membantu menangani kebimbangan pakar mengenai amalan keselamatan xAI dan risiko yang berkaitan dengan menggunakan sistem AI yang tidak dilindungi secukupnya dalam aplikasi kerajaan yang sensitif.