Sistem kecerdasan buatan semakin banyak digunakan dalam peranan keselamatan, menjanjikan peningkatan keselamatan awam melalui pengesanan ancaman automatik. Walau bagaimanapun, satu insiden baru-baru ini di sebuah sekolah tinggi di Maryland menonjolkan potensi kelemahan apabila AI salah mentafsir objek harian sebagai senjata berbahaya, menimbulkan persoalan penting tentang kebolehpercayaan sistem ini dalam senario dunia sebenar.
Insiden Yang Menggegarkan Komuniti Sekolah
Pada petang 20 Oktober 2025, satu perhimpunan selepas sekolah yang sepatutnya menjadi rutin bertukar menjadi pengalaman traumatik untuk pelajar di Kenwood High School di Baltimore County. Berbilang kenderaan polis, yang akhirnya mencecah lapan buah kereta menurut beberapa laporan, tiba di kawasan sekolah sebagai tindak balas kepada amaran daripada sistem pengesanan senjata AI Omnilert. Sistem itu telah menandakan apa yang dipercayainya sebagai senjata api, mencetuskan tindak balas segera penguatkuasaan undang-undang. Rakaman badan kamera kemudiannya merakam detik-detik tegang apabila pegawai, bertindak berdasarkan penilaian AI, mendekati pelajar dengan senjata dihunus.
Garis Masa Kejadian Utama:
- 20 Oktober 2025, 7:23 PM: Sistem Omnilert memberi amaran kepada pihak berkuasa sekolah mengenai kemungkinan wujudnya senjata api
- Dalam beberapa minit: Lapan kenderaan polis bertindak balas ke Kenwood High School
- 7:26 PM: Polis mengenal pasti objek sebenar - sebungkus kerepek Doritos
- Selepas kejadian: Pegawai Baltimore County menyeru semakan sistem dilakukan
Kos Manusia daripada Ralat Algoritma
Fokus tindak balas polis adalah pelajar Taki Allen, yang sedang menunggu kenderaan penjemputannya selepas latihan bola sepak. Pegawai mengarahkan Allen berbaring di tanah dan membelenggunya sebelum menjalankan pemeriksaan teliti. Keadaan itu diselesaikan hanya apabila polis mengenal pasti objek sebenar yang mencetuskan penggera: sebuah beg biru kerepek Doritos yang sedang dimakan oleh Allen. Dalam cubaan menerangkan situasi kepada pelajar yang keliru, seorang pegawai mengulas, Saya rasa cuma cara kamu semua makan kerepek… Doritos atau apa sahaja, ia mengesannya sebagai senjata. Seorang pegawai lain kemudiannya memberitahu seorang pelajar, AI bukanlah yang terbaik, mengakui kegagalan sistem dalam kes ini.
Petikan Terkenal daripada Pihak Terlibat:
- Pegawai Polis: "AI is not the best"
- Pelajar Taki Allen: "I don't think I'm safe enough to go outside, especially eating a bag of chips"
- Ahli Majlis Julian Jones: "How did it come to be that we had police officers with guns drawn approaching a kid because of a bag of Doritos?"
- Pengurup Dr. Myriam Rogers: "The program did what it was supposed to do"
 |
|---|
| Teknologi pengesanan senjata api AI Omnilert, menyerlahkan peranannya dalam berpotensi salah mengenal pasti objek tidak berbahaya sebagai ancaman |
Bagaimana Sistem Omnilert Sepatutnya Berfungsi
Teknologi pengesanan senjata AI Omnilert direka untuk disepadukan dengan sistem kamera keselamatan sedia ada, menganalisis suapan video secara masa nyata untuk mengenal pasti senjata api yang berpotensi. Menurut dokumentasi yang diterbitkan oleh syarikat, proses tersebut melibatkan tiga peringkat berbeza: pengesanan AI awal, pengesahan manusia, dan akhirnya pemberitahuan automatik dan tindak balas kecemasan jika ancaman disahkan. Sistem itu mempasarkan dirinya sebagai penyelesaian potensi kepada tragedi tembakan sekolah, secara khusus merujuk insiden seperti Uvalde, Sandy Hook, dan Parkland dalam bahan promosinya sebagai contoh apa yang teknologinya boleh cegah.
Aliran Proses Sistem Pengesanan Senjata Api AI Omnilert:
- Langkah 1: AI menganalisis suapan kamera keselamatan secara langsung untuk mengesan senjata api yang berpotensi
- Langkah 2: Pengesanan positif dihalakan untuk pengesahan manusia
- Langkah 3: Selepas pengesahan, pemberitahuan automatik mencetuskan protokol tindak balas kecemasan
Kesan Seterusnya dan Tindak Balas Institusi
Selepas insiden itu, penyelia Baltimore County Public Schools Dr. Myriam Rogers mempertahankan operasi sistem, menyatakan, Program itu melakukan apa yang sepatutnya dilakukan, iaitu memberi isyarat amaran dan untuk manusia menyemak untuk mengetahui sama ada terdapat sebab untuk bimbang pada masa itu. Sementara itu, Omnilert mengeluarkan kenyataan menyatakan bahawa dalam beberapa saat, acara itu ditandakan sebagai selesai dalam sistem kami dan bahawa sistem beroperasi seperti yang direka — mengesan ancaman yang mungkin, mengarahkannya untuk semakan manusia, dan memastikan pembuatan keputusan pantas dan berinformasi. Kedua-dua pihak sekolah dan Omnilert telah menawarkan perkhidmatan kaunseling kepada pelajar yang terlibat.
Kebimbangan Meningkat dan Seruan untuk Kajian Semula
Insiden ini telah mendorong Ahli Majlis Kaunti Baltimore Iazzy Patoka dan Julian Jones untuk menyeru kajian semula sistem Omnilert. Jones meluahkan kelegaan bahawa keadaan itu tidak lebih serius sambil mempersoalkan rangkaian peristiwa: Bagaimana ia boleh berlaku sehingga kami mempunyai pegawai polis dengan senjata dihunus menghampiri seorang budak kerana sebuah beg Doritos? Bagi Taki Allen, impak emosi telah menjadi ketara. Beliau memberitahu pemberita, Sekarang, saya kadang-kadang berasa selepas latihan saya tidak pergi ke luar lagi. Sebab jika saya pergi ke luar, saya tidak mahu - tidak fikir saya cukup selamat untuk pergi ke luar, terutamanya makan sekantung kerepek atau minum sesuatu. Saya hanya tinggal di dalam sehingga kenderaan penjemput saya tiba.
Implikasi Lebih Luas untuk Sistem Keselamatan AI
Insiden ini berlaku pada masa sistem keselamatan AI semakin mendapat tempat di pelbagai ruang awam, termasuk sekolah, lapangan terbang, dan bangunan kerajaan. Salah pengenalan Doritos ini menimbulkan persoalan asas tentang kematangan algoritma penglihatan komputer dalam membezakan antara objek tidak berbahaya dan ancaman sebenar. Ia juga menonjolkan kepentingan kritikal langkah pengesahan manusia dalam sistem sedemikian dan apa yang berlaku apabila proses itu berpotensi gagal atau dipintas. Apabila institusi pendidikan dan organisasi lain semakin beralih kepada AI untuk penyelesaian keselamatan, peristiwa ini berfungsi sebagai cerita peringatan tentang mengimbangi inovasi teknologi dengan kebolehpercayaan praktikal dan memahami akibat dunia sebenar daripada ralat algoritma.