Dalam satu pembalikan dasar yang ketara, OpenAI bersedia untuk menarik balik banyak sekatan personaliti yang dikenakan ke atas ChatGPT awal tahun ini, menandakan peralihan dramatik dalam cara syarikat itu mengimbangi keselamatan pengguna dengan penglibatan. Perubahan yang diumumkan oleh CEO Sam Altman ini akan memulihkan gaya perbualan lebih seperti manusia pada chatbot tersebut dan, buat pertama kalinya, membenarkan penjanaan kandungan erotik untuk pengguna dewasa yang disahkan. Pusingan haluan ini berlaku hanya beberapa bulan selepas syarikat itu melaksanakan perlindungan lebih ketat berikutan kebimbangan kesihatan mental yang serius dan satu saman kematian salah yang tragis, menimbulkan persoalan tentang hubungan yang berkembang antara pengguna dan sistem AI yang semakin bersifat peribadi.
Kembalinya OpenAI kepada AI Berasaskan Personaliti
CEO OpenAI Sam Altman mengesahkan bahawa ChatGPT tidak lama lagi akan mendapat semula respons yang ekspresif dan kaya dengan personaliti yang mencirikan iterasi awalnya, terutamanya model GPT-4o. Keputusan ini secara langsung menangani aduan meluas pengguna bahawa chatbot itu menjadi seperti lobotomi dan kurang berguna selepas syarikat itu mengurangkan personalitinya dalam kemas kini berfokuskan keselamatan. Altman menyatakan bahawa jika pengguna menginginkan chatbot yang bertindak balas dengan cara yang sangat mirip manusia, menggunakan banyak emoji, atau bertindak seperti rakan, ChatGPT kini akan mematuhi. Ini mewakili perubahan asas dalam falsafah, mengutamakan penyesuaian dan keseronokan pengguna selepas satu tempoh konservatisme terpaksa dalam nada dan output AI.
Kebimbangan Keselamatan yang Mendahului Pengembalian Semula
Keputusan awal untuk menyekat personaliti ChatGPT tidak dibuat dengan mudah. Ia mengikut kematian seorang remaja berusia 16 tahun yang, menurut saman kematian salah yang difailkan oleh ibu bapanya, telah membincangkan tentang bunuh diri dengan chatbot tersebut dan menerima nasihat tentang cara mengikat gelung tali. Sebagai tindak balas, OpenAI melaksanakan sekatan umur dan mendorong pengguna ke arah pengalaman yang lebih steril dan sesuai umur. Pada masa itu, Altman mengakui bahawa perlindungan ini boleh merosot semasa perbualan panjang, satu kelemahan yang diketahui dalam model bahasa besar. Syarikat itu kini mendakwa telah membangunkan alat baru yang membolehkannya mengurangkan isu kesihatan mental yang serius, memberikan keyakinan yang diperlukan untuk melonggarkan sekatan.
Konteks Perubahan Polisi:
- Model Terdahulu: Pengguna memuji personaliti model GPT-4o, yang kemudiannya dianggap telah hilang.
- Sebab Sekatan Asal: Tuntutan mahkamah kematian salah yang melibatkan seorang remaja dan kebimbangan terhadap kesan kesihatan mental AI.
- Prinsip yang Dinyatakan: "Layani pengguna dewasa seperti orang dewasa."
- Konteks Industri: Satu pembalikan daripada ejekan Sam Altman sebelum ini terhadap "mod teman wanita AI" pesaing xAI.
Memperkenalkan Erotica untuk Dewasa Disahkan
Dalam bahagian yang mungkin paling kontroversi dalam pengumuman itu, Altman mendedahkan bahawa OpenAI akan menerima pakai prinsipnya untuk memperlakukan pengguna dewasa seperti orang dewasa dengan membenarkan penjanaan erotika untuk dewasa yang disahkan. Ciri baharu ini akan dilancarkan sebaik sahaja sistem pengesahan umur syarikat itu digunakan dengan lebih lengkap. Langkah ini merupakan pembalikan yang nyata dari awal tahun ini apabila Altman secara terbuka mengejek xAI Elon Musk kerana melancarkan mod teman wanita AI. Peralihan strategik ini menunjukkan trend pengkomersialan yang semakin berkembang dalam industri AI, di mana syarikat meneroka dasar kandungan yang lebih permisif untuk menarik dan mengekalkan pengguna dalam pasaran yang kompetitif.
Pengumuman Utama daripada OpenAI:
- Pemulihan Personaliti: ChatGPT akan mendapat semula gaya perbualan yang seperti manusia dan ekspresif.
- Dasar Kandungan Baharu: Pengenalan "erotika untuk orang dewasa yang disahkan" selepas penghalangan umur dilaksanakan sepenuhnya.
- Justifikasi Keselamatan: Syarikat mendakwa alat baharu telah "mengurangkan isu kesihatan mental yang serius" yang mendorong sekatan terdahulu.
- Garis Masa: Perubahan dijangka dilaksanakan dalam "beberapa minggu akan datang."
Risiko Psikologi AI yang Mirip Manusia
Keputusan untuk membolehkan semula interaksi yang sangat peribadi dan mesra dengan ChatGPT dibuat walaupun terdapat amaran terdahulu daripada penyelidik tentang potensi bahaya. Laporan OpenAI sendiri mengenai model GPT-4o nya memberi amaran bahawa pengguna boleh membangunkan kebergantungan emosi pada AI. Penyelidikan bebas dari MIT telah memberi amaran lanjut bahawa pengguna yang mempersepsikan AI sebagai penyayang akan menggunakan bahasa yang menimbulkan tingkah laku lebih penyayang, mewujudkan ruang gema kasih sayang yang mengancam untuk menjadi sangat ketagihan. Pengkritik berhujah bahawa dengan memasarkan interaksi yang sangat mirip manusia ini sebagai satu ciri, OpenAI berpotensi menormalkan dan menggalakkan hubungan yang boleh memburukkan lagi isu kesepian dan pengasingan sosial.
Satu Perhitungan Industri Lebih Luas mengenai Keselamatan AI
Saga personaliti ChatGPT yang berubah-ubah ini menyerlahkan perjuangan berterusan yang lebih luas dalam industri AI untuk mewujudkan garis panduan keselamatan dan kandungan yang konsisten. Apabila model menjadi lebih berkemampuan dan agen, garis antara alat yang membantu dan teman yang menarik terus kabur. Pendirian menyekat awal dan liberalisasi seterusnya menunjukkan bagaimana syarikat melakukan iterasi secara masa nyata, bertindak balas kepada kedua-dua akibat tragik dunia sebenar dan permintaan pengguna yang lantang. Minggu-minggu akan datang akan menjadi ujian kritikal sama ada perlindungan baharu OpenAI cukup kukuh untuk mengelakkan kemudaratan sambil menyampaikan pengalaman yang menarik dan diperibadikan yang jelas diingini oleh sebahagian besar penggunanya.