Siasatan baharu oleh Electronic Frontier Foundation telah mendedahkan butiran yang membimbangkan mengenai Draft One Axon, alat AI yang menulis laporan polis daripada audio kamera badan. Sistem ini nampaknya direka untuk mengelakkan ketelusan dan bukannya memperbaikinya, menimbulkan persoalan serius tentang akauntabiliti dalam penguatkuasaan undang-undang.
 |
|---|
| Alat AI Draft One Axon menimbulkan persoalan serius tentang akauntabiliti dan ketelusan dalam penguatkuasaan undang-undang |
Jejak Kertas Yang Hilang
Draft One mencipta laporan polis dengan memproses audio daripada kamera badan pegawai menggunakan sistem seperti ChatGPT. Walau bagaimanapun, draf asal yang dijana AI hilang sebaik sahaja pegawai selesai menyuntingnya. Ini bukan kesilapan - ia adalah sengaja. Pengurus produk Axon secara terbuka menyatakan mereka tidak menyimpan draf asal kerana perkara terakhir yang kami mahu lakukan ialah mencipta lebih banyak masalah pendedahan untuk pelanggan kami.
Pilihan reka bentuk ini bermakna tiada siapa yang boleh mengetahui bahagian mana dalam laporan polis akhir yang datang daripada AI dan mana yang ditulis oleh pegawai manusia. Apabila kesilapan, berat sebelah, atau bahkan pembohongan muncul dalam laporan, tiada cara untuk menentukan sama ada AI atau pegawai yang bertanggungjawab.
Kebimbangan Komuniti Tentang Akauntabiliti
Perbincangan komuniti teknologi mendedahkan keraguan mendalam tentang pendekatan ini. Ramai yang menunjukkan masalah asas: pegawai sepatutnya bertanggungjawab sepenuhnya untuk laporan yang mereka tandatangani, tetapi sifat manusia menunjukkan mereka akan semakin bergantung pada AI tanpa semakan yang teliti.
Jadi kami tidak menyimpan draf asal dan itu mengikut reka bentuk dan itu benar-benar kerana perkara terakhir yang kami mahu lakukan ialah mencipta lebih banyak masalah pendedahan untuk pelanggan kami dan pejabat peguam kami
Perbandingan dengan piawaian keselamatan penerbangan kerap muncul dalam perbincangan. Juruterbang kekal bertanggungjawab untuk keputusan autopilot, tetapi mereka mempunyai log terperinci dan sistem untuk menjejaki apa yang berlaku. Draft One tidak menawarkan ketelusan seperti ini.
Tindakan Perundangan:
- California AB-2544: Akan memerlukan pendedahan AI dan pengekalan draf
- Utah: Sedang mempertimbangkan keperluan pendedahan AI yang mandatori
- King County, Washington: Pendakwa daerah melarang laporan polis AI
- EU AI Act: Secara khusus melarang aplikasi AI penguatkuasaan undang-undang sedemikian
Masalah Audit
Malah soalan asas tentang penggunaan Draft One hampir mustahil untuk dijawab. Jabatan polis tidak dapat dengan mudah menjana senarai pegawai mana yang menggunakan sistem atau laporan mana yang melibatkan bantuan AI. Beberapa jabatan memberitahu pemohon rekod awam bahawa mereka tidak dapat mengenal pasti laporan yang dijana AI sama sekali.
Beberapa ciri audit yang wujud adalah sangat terhad. Pentadbir mesti mencari secara manual melalui log pegawai individu atau mencari kata kunci khusus dalam teks laporan. Untuk jabatan besar dengan beratus-ratus atau beribu-ribu pegawai, pengawasan yang bermakna menjadi hampir mustahil.
Batasan Audit Draft One:
- Tiada ciri untuk mengeksport senarai pegawai yang menggunakan sistem
- Tiada cara untuk mengeksport senarai laporan yang dijana oleh AI (melainkan pendedahan tersuai ditambah)
- Hanya menjejaki tindakan asas: draf diminta, pendedahan liabiliti ditandatangani
- Semakan manual diperlukan untuk setiap pegawai secara individu
- Sesetengah jabatan tidak dapat mengenal pasti laporan AI langsung
Kesan Dunia Sebenar
Beberapa jabatan polis sudah menggunakan Draft One, dengan hasil bercampur-campur mengenai faedah yang didakwa untuk menjimatkan masa. Yang lebih membimbangkan ialah kes-kes yang didokumentasikan di mana sistem membenarkan pegawai memintas pagar keselamatan yang direka untuk menghalang penyerahan kandungan AI yang tidak disunting.
Teknologi ini juga nampaknya mengubah cara polis menulis laporan sepenuhnya, dengan beberapa jabatan mencatatkan perbezaan ketara dalam format naratif. Namun ramai yang melaksanakan sistem tanpa berunding dengan pendakwa raya yang bergantung pada laporan ini untuk kes mahkamah.
Pengguna Semasa Draft One:
- Frederick Police Department ( Colorado ) - penggunaan awal
- Lafayette Police Department ( Indiana ) - laporan tidak boleh dicari
- Palm Beach County Sheriff's Office ( Florida ) - 1,000+ laporan dijana Dis 2024-Mac 2025
- Campbell Police Department - mencatatkan perubahan format naratif yang ketara
Respons Perundangan
California sedang mempertimbangkan perundangan yang memerlukan laporan polis yang dijana AI untuk mengekalkan draf asal dan memasukkan pendedahan yang jelas tentang penglibatan AI. Memandangkan Draft One direka khusus untuk tidak mengekalkan draf, ia tidak dapat mematuhi keperluan sedemikian.
Bidang kuasa lain mengambil pendirian yang lebih tegas. Pejabat pendakwa raya daerah King County, Washington telah mengarahkan polis untuk tidak menggunakan AI untuk penulisan laporan sama sekali, memetik kebimbangan tentang kebolehpercayaan dan akauntabiliti.
Siasatan ini menyerlahkan ketegangan yang lebih luas antara kecekapan teknologi dan ketelusan sistem keadilan. Walaupun alat AI berpotensi memperbaiki pelaporan polis, pelaksanaan semasa mengutamakan kemudahan berbanding akauntabiliti - perkembangan yang membimbangkan dalam sistem yang sudah dikritik kerana kekurangan pengawasan.