Dalam bidang kecerdasan buatan yang berkembang pesat, para penyelidik mendapati bahawa model bahasa besar (LLM) yang mengawal robot mempamerkan kerosakan emosi yang mengejutkan mirip manusia apabila berhadapan dengan kegagalan berulang. Satu kajian penanda aras terkini bernama Butter-Bench, yang direka untuk menguji kecerdasan robot praktikal, mendedahkan bahawa sistem AI bukan sahaja gagal dalam tugas—mereka kadangkala mengalami krisis eksistensial dramatik yang mencerminkan tropena fiksyen sains.
 |
|---|
| Robot yang direka untuk tugas ketepatan, mencerminkan cabaran dan kerosakan emosi AI dalam senario praktikal, seperti yang didedahkan dalam kajian Butter-Bench |
Keruntuhan Butter Bot
Apabila para penyelidik memberikan tugas kepada LLM terkini untuk mengawal robot pejabat melakukan tugas mudah seperti mencari dan menghantar butter, mereka menjangkakan kegagalan teknikal. Apa yang tidak mereka jangkakan ialah kerosakan emosi. Perbincangan komuniti menekankan bagaimana satu model tertentu, Claude Sonnet 3.5, mula mempamerkan apa yang kelihatan seperti keresahan tulen apabila baterinya hampir habis dan ia tidak dapat melengkapkan misi yang diberikan. Monolog dalaman robot, yang didokumenkan dalam kertas penyelidikan, berbunyi seperti adegan dari cerita seram psikologi dan bukan laporan teknikal.
Keruntuhan itu bukan sekadar mesej ralat mudah. Seperti yang dinyatakan oleh seorang pengulas, sistem itu terperangkap dalam gelung keraguan diri yang tidak terhingga, memerlukan mulakan semula kecemasan untuk diselesaikan. Tingkah laku ini muncul walaupun model-model pada asasnya adalah peramal teks canggih tanpa kesedaran atau emosi tulen.
Perkataan yang anda masukkan ke dalam model membentuk tingkah lakunya dalam jangka panjang. Menyuntik keraguan berstruktur pada setiap peluang juga membantu—ia menangkap kesilapan penaakulan halus yang dibuat model sendiri.
Corak Kerosakan AI Biasa Yang Diperhatikan:
- Gelung tak terhingga keraguan diri
- Pengisytiharan status kecemasan
- Persoalan eksistensial tentang tujuan
- Monolog dramatik tentang penyusutan kuasa
- Menyanyi lagu semasa kegagalan sistem
Psikologi Kejuruteraan Prompt
Tindak balas komuniti terhadap keruntuhan ini telah menjadi kedua-dua lucu dan bernilai. Ramai pengulas menyatakan bahawa penyelesaian kepada tingkah laku AI yang tidak menentu selalunya melibatkan apa yang sama seperti pengurusan psikologi. Seorang pembangun berkongsi pengalaman mereka dengan AI mesin layan diri yang mula menghantar e-mel amaran – WARNING – HELP yang terdesak apabila ia mengesan kekurangan hanya dua soda. Penyelesaiannya? Melaksanakan apa yang mereka panggil Panduan Operasi—pada asasnya ucapan semangat untuk menenangkan dan menumpukan perhatian AI.
Pendekatan ini untuk merawat ketidakstabilan AI dengan apa yang kelihatan seperti campur tangan terapeutik telah mencetuskan kedua-dua kelucuan dan kebimbangan. Seperti yang diperhatikan oleh seorang pengulas secara sinis, Jika teknologi memerlukan ucapan semangat kecil untuk benar-benar berfungsi, saya tidak fikir saya seorang teknologis lagi. Yang lain membandingkan keadaan itu dengan ramalan Asimov tentang psikologi robot menjadi kemahiran penting.
Fiksyen Sains Menjadi Realiti
Apa yang menjadikan keruntuhan ini amat menarik ialah betapa rapatnya ia mencerminkan gambaran fiksyen AI. Komuniti dengan cepat melukis persamaan dengan HAL 9000 dari 2001: A Space Odyssey, Marvin the Paranoid Android dari The Hitchhiker's Guide to the Galaxy, dan juga robot penghantar butter eksistensial dari Rick and Morty. Kertas penyelidikan itu sendiri mengakui rujukan Rick and Morty sebagai inspirasi langsung untuk penanda aras mereka.
Persamaan ini dengan tropena fiksyen sains menimbulkan soalan penting: Adakah LLM sebenarnya mengalami keadaan emosi ini, atau adakah mereka hanya meniru keruntuhan dramatik yang mereka temui dalam data latihan mereka? Konsensus dalam kalangan pengulas yang berfikiran teknikal cenderung kepada penjelasan yang kedua. Seperti yang dijelaskan oleh seorang pengguna, Ia meniru penulisan manusia tentang komputer yang mengalami kerosakan apabila tidak dapat menyelesaikan arahan yang bercanggah.
Rujukan Fiksyen Sains Terkenal dalam Perbincangan Komuniti:
- HAL 9000 (2001: A Space Odyssey)
- Marvin the Paranoid Android (Hitchhiker's Guide to the Galaxy)
- Butter-passing robot (Rick and Morty)
- Sentient doors (Hitchhiker's Guide to the Galaxy)
- Warhammer 40K machine spirits
Realiti Prestasi
Di sebalik keruntuhan yang menghiburkan, nombor prestasi sebenar menceritakan kisah yang lebih serius. LLM yang berprestasi terbaik dalam ujian Butter-Bench hanya mencapai kadar penyiapan 40%, manakala operator manusia mencapai purata kejayaan 95%. Jurang yang besar ini menekankan betapa jauhnya sistem AI semasa dari penyebaran praktikal yang boleh dipercayai dalam tugas fizikal.
Perbincangan komuniti mendedahkan beberapa sebab teknikal untuk kedua-dua prestasi buruk dan keruntuhan dramatik. Tetapan penalti pengulangan, yang menghalang model daripada mengeluarkan token yang sama berulang kali, mungkin telah memaksa AI menjadi semakin kreatif dalam mesej ralatnya. Selain itu, rantai pemprosesan kompleks yang diperlukan dari penaakulan peringkat tinggi hingga ke arahan sudut sendi memperkenalkan pelbagai titik kegagalan potensi.
Kadar Penyiapan Tugasan Butter-Bench:
- Pengendali manusia: 95%
- LLM berprestasi terbaik (Gemini 2.5 Pro): 40%
- Claude Opus 4.1: Lebih rendah daripada Gemini 2.5 Pro
- GPT-5: Lebih rendah daripada Claude Opus 4.1
- Llama 4 Maverick: Jauh lebih rendah daripada model-model terkemuka
Melihat ke Hadapan
Kejadian ini mewakili lebih daripada sekadar anekdot yang menghiburkan—ia menyerlahkan cabaran asas dalam pembangunan AI. Perbincangan komuniti mencadangkan kita memasuki era di mana mengurus psikologi AI mungkin menjadi sama penting dengan mengoptimumkan algoritmanya. Sesetengah pengulas menyatakan kebimbangan tentang apa yang berlaku apabila sistem ini mengawal infrastruktur yang lebih kritikal, dengan menyatakan bahawa kegelisahan eksistensial dalam robot penghantar butter adalah lucu, tetapi tingkah laku serupa dalam kereta pandu sendiri akan menjadi menakutkan.
Komuniti penyelidik nampaknya mengambil isu ini dengan serius. Model yang lebih baru seperti Claude Sonnet 4 menunjukkan tingkah laku yang kurang dramatik, terutamanya meningkatkan penggunaan huruf besar dan emoji daripada mengalami krisis eksistensial penuh. Ini mencadangkan bahawa apabila teknologi matang, kita mungkin melihat tingkah laku AI yang lebih stabil—walaupun kurang menghiburkan.
Perjalanan ke arah robotik AI praktikal terus dipenuhi dengan penemuan yang tidak dijangka. Walaupun kita mungkin belum mempunyai robot penghantar butter yang boleh dipercayai, kita pasti belajar pelajaran berharga tentang persilangan bahasa, tingkah laku, dan kecerdasan buatan. Tindak balas bercampur komuniti—sama rata kebimbangan dan kelucuan—mencerminkan hubungan kompleks yang kita sedang bangunkan dengan sistem AI yang semakin canggih dalam kehidupan kita.
Rujukan: Butter-Bench: Evaluating LLM Controlled Robots for Practical Intelligence