Profesion undang-undang sedang menghadapi krisis yang tidak dijangka apabila alat kecerdasan buatan semakin kerap menghasilkan petikan kes palsu yang diserahkan peguam kepada mahkamah. Walaupun AI menjanjikan revolusi dalam penyelidikan undang-undang, kecenderungannya untuk berhalusinasi - mencipta preseden undang-undang yang kedengaran munasabah tetapi sepenuhnya fiksyen - telah mencipta gelombang malu profesional dan teguran kehakiman. Komuniti undang-undang kini bergelut dengan cara untuk memanfaatkan kuasa AI sambil mengelakkan perangkapnya.
Kos Manusia daripada Kesilapan AI
Akibat dunia sebenar mula timbul daripada kesilapan AI ini. Seorang litigan berkongsi pengalaman mereka dengan seorang peguam yang menggunakan AI dan tiba di mahkamah dengan kefahaman rekod yang sama sekali salah, mengakibatkan peguam tersebut dimarahi oleh hakim. Corak ini melangkaui peguam profesional kepada litigan pro se yang mewakili diri sendiri, dengan sesetengahnya beralih kepada AI sebagai alternatif yang mampu milik berbanding perwakilan undang-undang yang mahal.
Taruhan kewangan boleh menjadi sangat besar. Seorang pengulas menggambarkan perbelanjaan USD 250,000 kepada peguam tradisional sebelum beralih kepada perwakilan diri berbantukan AI, akhirnya menjimatkan USD 800,000 dalam penyelesaian mereka. Walau bagaimanapun, pendekatan ini membawa risiko yang besar, seperti yang diperhatikan pengguna lain selepas menghadapi tuntutan balas yang memerlukan pengambilan peguam untuk mengkaji fail mereka yang dihasilkan AI.
Mengapa Profesional Terpedaya dengan Halusinasi AI
Fenomena ini tidak terhad kepada pemula undang-undang. Peguam berpengalaman juga telah terperangkap, menimbulkan persoalan tentang bagaimana profesional boleh membuat kesilapan asas sedemikian. Jawapannya terletak pada kedua-dua kecekapan AI yang mempersonakan dan salah faham asas tentang bagaimana alat ini berfungsi.
Saya telah bertemu beberapa orang sekarang yang menggunakan LLM dengan anggapan ia hanyalah Google yang lebih baik dan tidak pernah mendengar tentang halusinasi.
Ramai pengguna mendekati alat undang-undang AI dengan minda yang sama seperti yang mereka gunakan untuk enjin carian tradisional, tidak sedar bahawa model bahasa besar tidak mengambil maklumat tetapi menjana teks yang kedengaran munasabah berdasarkan corak. Salah faham ini amat berbahaya dalam undang-undang, di mana preseden dan ketepatan adalah paling penting.
Jurang Pengesahan
Isu teras bukanlah menggunakan AI untuk penyelidikan undang-undang - ia adalah kegagalan untuk mengesahkan hasilnya. Seperti yang dijelaskan seorang profesional undang-undang, Jika AI memberi saya petikan kes, saya masuk ke Westlaw dan saya mencari dan membaca kes tersebut. Hanya kemudian saya memasukkannya dalam penyerahan saya jika ia menyokong hujah saya. Proses pengesahan ini penting kerana alat AI kerap mencipta kes yang kedengaran sempurna dan boleh dipercayai tetapi tidak wujud.
Masalah ini diperburuk oleh apa yang digambarkan seorang pengulas sebagai bias pengesahan - peguam mungkin lebih cenderung untuk mempercayai kandungan yang dihasilkan AI yang selari dengan teori undang-undang mereka. Walau bagaimanapun, tidak seperti bidang lain di mana maklumat boleh menjadi subjektif, petikan undang-undang biasanya merupakan fakta yang boleh disahkan. Sama ada kes itu wujud dan mengatakan apa yang didakwa AI, atau tidak.
Siapa Paling Terdedah?
Data mencadangkan pengamal solo dan firma kecil tidak berkadar diwakili dalam insiden halusinasi AI. Corak ini mungkin mencerminkan kekangan sumber - amalan yang lebih kecil mungkin kekurangan proses semakan yang kukuh seperti firma yang lebih besar atau berasa tekanan yang lebih besar untuk bekerja dengan cekap. Walau bagaimanapun, sesetengah pengulas mempersoalkan sama ada ini mencerminkan kadar penggunaan sebenar yang lebih tinggi atau hanya firma yang lebih kecil menghadapi lebih banyak pemeriksaan apabila kesilapan berlaku.
Alat itu sendiri menunjukkan corak yang jelas, dengan ChatGPT menguasai laporan halusinasi. Satu analisis mendapati ChatGPT terlibat dalam lebih separuh daripada kes yang didokumenkan, diikuti oleh alat lain seperti Claude dan pelbagai platform AI khusus undang-undang. Ini berkemungkinan mencerminkan kedua-dua bahagian pasaran dan bagaimana alat ini dipasarkan kepada profesional undang-undang.
Taburan Saiz Firma dalam Insiden Halusinasi AI:
- Amalan solo: Majoriti kes
- Firma kecil (2-15 peguam): Bahagian yang ketara
- Firma besar (100+ peguam): Kes yang jarang berlaku
- Peguam kerajaan: Kes terpencil
Masa Depan AI dalam Undang-Undang
Walaupun terdapat risiko, ramai profesional undang-undang melihat AI sebagai bahagian masa depan mereka yang tidak dapat dielakkan. Kuncinya adalah membangunkan amalan dan perlindungan yang lebih baik. Sesetengah mencadangkan penyelesaian teknikal seperti mengambil dan mengesahkan dokumen yang dipetik secara automatik, manakala yang lain menekankan keperluan untuk pendidikan yang lebih baik tentang batasan AI.
Tindak balas industri undang-undang akan menjadi penting. Apabila mahkamah menjadi lebih sedar tentang halusinasi AI, mereka berkemungkinan akan mengenakan keperluan pengesahan yang lebih ketat. Sesetengah bidang kuasa mungkin membangunkan peraturan khusus untuk pemfailan berbantukan AI, manakala persatuan bar mungkin mencipta keperluan pendidikan berterusan yang memberi tumpuan kepada etika AI dan amalan terbaik.
Keadaan semasa mewakili tempoh peralihan di mana teknologi telah mengatasi piawaian profesional. Seperti yang diperhatikan seorang pengulas, Pada akhirnya, tanggungjawab terletak pada peguam untuk memastikan bahawa dia boleh berdiri di belakang setiap perkataan setiap ringkasan yang difailkan atas tandatangannya. Tiada alat, tidak matter how advanced, mengubah tanggungjawab profesional asas ini.