Landskap kawal selia untuk kecerdasan buatan dalam penjagaan kesihatan mental berkembang pesat ketika negeri-negeri bergelut dengan risiko dan faedah alat terapi berkuasa AI. Illinois telah menyertai Nevada dan Utah dalam mengehadkan penggunaan AI dalam tetapan terapeutik, manakala CEO OpenAI Sam Altman telah mengakui secara terbuka kebimbangan privasi yang ketara dengan menggunakan ChatGPT untuk sokongan kesihatan mental.
Illinois Melaksanakan Sekatan Terapi AI yang Komprehensif
Gabenor Illinois JB Pritzker menandatangani Akta Kesejahteraan dan Pengawasan untuk Sumber Psikologi menjadi undang-undang pada 1 Ogos 2024, menjadikan negeri itu yang ketiga mengehadkan AI dalam aplikasi terapeutik. Perundangan ini melarang penggunaan kecerdasan buatan untuk menyediakan kesihatan mental dan membuat keputusan terapeutik, walaupun profesional kesihatan tingkah laku berlesen masih boleh menggunakan teknologi AI untuk tugas pentadbiran dan perkhidmatan sokongan tambahan. Mario Treto Jr., setiausaha di Jabatan Kawal Selia Kewangan dan Profesional Illinois, menekankan bahawa penduduk berhak mendapat penjagaan kesihatan berkualiti daripada profesional berkelayakan dan bukannya program komputer yang menjana respons dengan menarik maklumat dari seluruh internet.
Negeri dengan Sekatan Terapi AI
| Negeri | Status | Peruntukan Utama |
|---|---|---|
| Illinois | Digubal (Ogos 2024) | Melarang AI untuk membuat keputusan kesihatan mental; membenarkan penggunaan pentadbiran |
| Nevada | Digubal (Jun 2024) | Menyekat AI di sekolah dan penjagaan kesihatan mental |
| Utah | Digubal (Mac 2024) | Mengawal selia chatbot AI kesihatan mental |
| California | Dicadangkan | Akan mewujudkan kumpulan kerja kesihatan mental dan AI |
| New Jersey | Dicadangkan | Akan melarang pengiklanan AI sebagai profesional kesihatan mental berlesen |
| Pennsylvania | Dicadangkan | Akan memerlukan kebenaran ibu bapa untuk perkhidmatan kesihatan mental maya di sekolah |
Pergerakan Peringkat Negeri yang Berkembang Menentang Terapi AI
Momentum kawal selia semakin membina merentasi pelbagai negeri. Nevada meluluskan perundangan pada bulan Jun yang mengehadkan penggunaan AI di sekolah dan mengehadkan aplikasi oleh penyedia penjagaan kesihatan mental dan tingkah laku. Utah menggubal peraturan serupa pada bulan Mac, khususnya menyasarkan chatbot kesihatan mental yang menggunakan teknologi AI. Tiga negeri tambahan sedang mempertimbangkan sekatan mereka sendiri secara aktif: California mencadangkan mewujudkan kumpulan kerja kesihatan mental dan AI, New Jersey akan melarang pengiklanan AI sebagai pengganti untuk profesional kesihatan mental berlesen, dan Pennsylvania berusaha memerlukan kebenaran ibu bapa sebelum sekolah boleh mentadbir perkhidmatan kesihatan mental maya kepada kanak-kanak.
CEO OpenAI Mengakui Kelemahan Privasi
Sam Altman, CEO OpenAI, telah membangkitkan kebimbangan ketara tentang menggunakan ChatGPT untuk sesi terapi. Dalam temu bual podcast bulan Julai, Altman memberi amaran bahawa perbualan dengan ChatGPT tidak semestinya kekal peribadi dan menyatakan ketiadaan perlindungan undang-undang untuk maklumat peribadi sensitif yang dikongsi dengan sistem AI. Beliau menjelaskan bahawa jika prosiding undang-undang memerlukan OpenAI untuk mendedahkan maklumat, pada masa ini tiada alasan untuk melindungi apa yang pengguna mungkin anggap sebagai komunikasi terapeutik sulit.
Penyelidikan Mendedahkan Had Terapi AI
Kajian Universiti Stanford yang diterbitkan sejurus sebelum temu bual Altman mendapati bahawa chatbot terapi AI tidak bersedia secukupnya untuk menggantikan penyedia kesihatan mental manusia. Penyelidikan mendedahkan bahawa sistem ini menyatakan stigma dan membuat kenyataan tidak sesuai mengenai keadaan kesihatan mental serius, termasuk respons kepada pengguna yang mengalami delusi, pemikiran bunuh diri, halusinasi, dan gangguan obsesif-kompulsif. Penemuan ini menggariskan risiko berpotensi menggunakan sistem AI dalam konteks kesihatan mental sensitif tanpa perlindungan yang sewajarnya.
Kebimbangan Utama Privasi dan Keselamatan yang Dikenal Pasti
- Kelemahan Privasi: Sesi terapi ChatGPT mungkin tidak kekal sulit
- Jurang Perlindungan Undang-undang: Tiada asas undang-undang semasa untuk melindungi maklumat sensitif yang dikongsi dengan AI
- Ekspresi Stigma: Chatbot AI menunjukkan berat sebelah terhadap keadaan kesihatan mental tertentu
- Respons Tidak Sesuai: Sistem membuat kenyataan yang tidak wajar mengenai keadaan serius (delusi, pemikiran membunuh diri, halusinasi, OCD )
- Risiko Penggantian: Sistem AI tidak bersedia secukupnya untuk menggantikan penyedia kesihatan mental manusia
Implikasi Lebih Luas untuk AI dalam Penjagaan Kesihatan
Penumpuan sekatan peringkat negeri dan pengakuan industri tentang had menandakan persimpangan kritikal untuk aplikasi AI dalam penjagaan kesihatan. Walaupun teknologi menawarkan faedah berpotensi untuk sokongan pentadbiran dan perkhidmatan tambahan, trend kawal selia semasa menekankan nilai yang tidak boleh diganti bagi kepakaran manusia dalam rawatan kesihatan mental. Ketika lebih banyak negeri mempertimbangkan perundangan serupa, industri AI menghadapi tekanan yang meningkat untuk menangani kebimbangan privasi dan membangunkan perlindungan yang lebih kukuh untuk aplikasi penjagaan kesihatan sensitif.