Seorang peguam California telah diarahkan membayar denda sebanyak 10,000 dolar Amerika selepas mengemukakan rayuan mahkamah yang mengandungi 21 petikan undang-undang palsu yang dijana oleh ChatGPT. Kes ini menyerlahkan kebimbangan yang semakin meningkat mengenai penyalahgunaan kecerdasan buatan dalam persekitaran profesional dan menimbulkan persoalan tentang akauntabiliti dalam profesion undang-undang.
Peguam Amir Mostafavi menggunakan ChatGPT untuk menambah baik ringkasan undang-undangnya pada Julai 2023, tetapi gagal mengesahkan kandungan yang dijana AI sebelum penyerahan. Mahkamah Rayuan Daerah Ke-2 California mendapati bahawa 21 daripada 23 petikan kes dalam dokumen tersebut adalah rekaan sepenuhnya oleh sistem AI.
Butiran Terperinci:
- Jumlah: $10,000 USD (denda terbesar berkaitan AI oleh mahkamah negeri California)
- Pelanggaran: Memfailkan rayuan remeh, melanggar peraturan mahkamah, memetik kes palsu, membuang masa mahkamah
- Petikan yang dipalsukan: 21 daripada 23 petikan kes adalah palsu
- Tarikh kejadian: Julai 2023
Tanggungjawab Profesional berbanding Kemudahan AI
Komuniti undang-undang berpecah mengenai cara mengendalikan integrasi AI sambil mengekalkan piawaian profesional. Respons Mostafavi terhadap denda tersebut telah mencetuskan kontroversi khususnya, kerana beliau mencadangkan bahawa peguam yang menggunakan AI harus menjangkakan beberapa mangsa, beberapa kerosakan, beberapa kehancuran semasa tempoh peralihan.
Sikap ini telah mendapat kritikan tajam daripada profesional undang-undang yang berhujah bahawa peguam mempunyai kewajipan asas untuk mengesahkan semua maklumat sebelum mengemukakan kepada mahkamah. Tanggungjawab kekal pada peguam tanpa mengira alat yang digunakan, sama ada sistem AI atau pembantu manusia.
Respons Kawal Selia:
- Tarikh akhir California Judicial Council : 15 Disember 2024 untuk dasar AI
- California Bar Association : Mengkaji semula kod kelakuan untuk penggunaan AI
- Preseden mahkamah persekutuan: Denda $31,100 USD kepada firma guaman kerana fabrikasi AI
- Pelesenan profesional: Denda melebihi $1,000 USD mesti dilaporkan kepada state bar
Corak Pelanggaran Berkaitan AI yang Semakin Meningkat
Pakar undang-undang yang menjejaki penyalahgunaan AI di mahkamah melaporkan peningkatan dramatik dalam kes serupa. Apa yang bermula sebagai beberapa insiden sebulan telah meningkat kepada beberapa kes setiap hari merentasi pelbagai bidang kuasa. Masalah ini nampaknya amat akut di kalangan peguam yang terlalu sibuk dan pihak yang mewakili diri sendiri yang mungkin tidak memahami sepenuhnya batasan AI.
Yang membimbangkan, isu ini melangkaui peguam kepada hakim sendiri, dengan dokumentasi terkini mengenai tiga hakim yang memetik autoriti undang-undang palsu dalam keputusan rasmi mereka.
Statistik Ketepatan AI:
- Kadar halusinasi semasa: ~33% daripada pertanyaan (analisis Stanford RegLab )
- Penambahbaikan dari masa ke masa: Anggaran pengurangan daripada 21/23 sitiran palsu (2023) kepada berpotensi 1/23 dengan model semasa
- Kes yang dijejaki: 52 di California , 600+ di seluruh negara
- Corak pertumbuhan: Daripada beberapa kes sebulan kepada beberapa kes sehari
 |
|---|
| Integrasi AI yang semakin meningkat dalam profesion undang-undang menimbulkan risiko, menekankan keperluan untuk berwaspada terhadap kesilapan teknologi |
Batasan Teknologi dan Implikasi Masa Depan
Model bahasa AI semasa bergelut dengan ketepatan apabila menjana petikan undang-undang, dengan kadar halusinasi mempengaruhi kira-kira satu pertiga daripada pertanyaan menurut penyelidikan Universiti Stanford. Walaupun sistem AI yang lebih baharu menunjukkan peningkatan, pakar memberi amaran bahawa kadar ralat yang berkurangan mungkin sebenarnya meningkatkan risiko dengan menjadikan pengguna lebih leka tentang pengesahan.
Semakin sukar hujah undang-undang anda untuk dibuat, semakin banyak model akan cenderung berhalusinasi, kerana mereka akan cuba untuk menggembirakan anda. Di situlah bias pengesahan bermula.
Profesion undang-undang menghadapi tekanan untuk menyesuaikan diri dengan pantas kepada alat AI sambil mengekalkan piawaian etika. Majlis Kehakiman California telah mewajibkan mahkamah sama ada mengharamkan AI generatif atau mewujudkan dasar penggunaan yang jelas menjelang 15 Disember 2024, mencerminkan keperluan mendesak untuk menangani cabaran ini.
Denda sebanyak 10,000 dolar Amerika mewakili penalti terbesar yang dikeluarkan oleh mahkamah negeri California untuk rekaan berkaitan AI, walaupun mahkamah persekutuan telah mengenakan sanksi yang lebih tinggi ke atas firma guaman untuk pelanggaran serupa. Apabila penggunaan AI semakin pesat merentasi profesion undang-undang, pengawal selia bergegas untuk mewujudkan mekanisme pengawasan yang sesuai sambil mengimbangi inovasi dengan tanggungjawab profesional.
Rujukan: California issues historic fine over lawyer's ChatGPT fabrications