Satu kajian terobosan dari Universiti Harvard telah mendedahkan titik buta budaya yang ketara dalam sistem kecerdasan buatan. Apabila penyelidik menguji ChatGPT menggunakan World Values Survey , mereka mendapati bahawa alat AI berprestasi sangat baik dalam meniru perspektif Barat tetapi bergelut secara dramatik apabila mewakili budaya bukan Barat.
Kajian ini mendedahkan corak yang membimbangkan: semakin jauh budaya sesebuah negara berbeza daripada nilai-nilai Amerika , semakin teruk AI menjadi dalam memahami dan mewakili populasi tersebut. Bagi negara seperti Libya dan Pakistan , respons AI hampir tidak lebih baik daripada tekaan rawak.
Jarak Budaya berbanding Ketepatan AI: Kajian ini mendapati korelasi negatif yang jelas antara jarak budaya sesebuah negara dari USA dan ketepatan ChatGPT dalam mewakili nilai-nilai populasi negara tersebut, dengan negara-negara seperti Libya dan Pakistan menunjukkan kadar ketepatan yang hanya sedikit lebih baik daripada lambungan syiling.
Masalah WEIRD dalam Pembangunan AI
Penyelidikan ini dibina berdasarkan konsep yang mantap dalam psikologi yang dipanggil WEIRD - merujuk kepada orang yang Western, Educated, Industrialized, Rich, dan Democratic . Walaupun kumpulan ini hanya mewakili sebahagian kecil daripada manusia, kebanyakan penyelidikan psikologi secara historis telah memberi tumpuan kepada populasi WEIRD , yang membawa kepada pemahaman yang condong tentang tingkah laku manusia.
Sistem AI nampaknya telah mewarisi berat sebelah yang sama. Penyelidik Harvard menjalankan World Values Survey kepada ChatGPT sebanyak 1,000 kali dan membandingkan keputusan dengan respons manusia sebenar dari negara yang berbeza. Keputusan menunjukkan korelasi yang jelas: semakin besar jarak budaya dari Amerika Syarikat , semakin kurang tepat AI menjadi.
WEIRD: Akronim yang menggambarkan populasi Western, Educated, Industrialized, Rich, Democratic yang telah mendominasi penyelidikan psikologi walaupun mewakili minoriti kemanusiaan global.
Metodologi Penyelidikan: Penyelidik Harvard telah menjalankan World Values Survey sebanyak 1,000 kali kepada ChatGPT dan membandingkan keputusan dengan respons manusia sebenar dari negara-negara berbeza untuk mengukur penjajaran budaya.
Kesan Dunia Sebenar Terhadap Penyelidikan dan Perniagaan
Implikasinya melangkaui rasa ingin tahu akademik. Syarikat dan penyelidik yang bekerja di pasaran bukan Barat menghadapi cabaran berganda. Wilayah ini sering menerima bajet penyelidikan yang lebih kecil, dan kini mereka juga mesti berhadapan dengan alat AI yang secara asasnya salah faham populasi mereka.
Berat sebelah ini boleh menjejaskan setiap peringkat penyelidikan, dari reka bentuk projek awal hingga analisis akhir. Moderator AI mungkin bertanya soalan yang tidak sesuai dari segi budaya, manakala analisis berkuasa AI boleh terlepas konteks sosial penting yang mendorong pembuatan keputusan dalam budaya yang berbeza. Terdapat risiko tulen bahawa perspektif manusia yang pelbagai diproses melalui sistem ini dan muncul kelihatan seperti California .
Perbincangan komuniti telah menyerlahkan kebimbangan tambahan tentang halangan bahasa. Seorang pengguna menyatakan bahawa ChatGPT berprestasi jauh lebih teruk apabila beroperasi dalam bahasa Rusia , malah kehilangan jejak maklumat yang telah dikenal pasti dengan betul dalam bahasa Inggeris .
Penyelesaian Berpotensi dan Jalan Keluar
Walaupun menghadapi cabaran ini, penyelidik tidak meninggalkan alat AI sepenuhnya. Sebaliknya, mereka sedang membangunkan strategi untuk mengatasi batasan budaya. Beberapa pendekatan termasuk menggunakan prompting konteks-dahulu, di mana pengguna memberikan latar belakang budaya sebelum bertanya soalan penyelidikan.
Saya telah menyimpan arahan untuk Gemini untuk menterjemah pertanyaan ke dalam bahasa tempatan kemudian menterjemah semula output kembali ke bahasa Inggeris , apabila bertanya tentang negara/budaya yang tidak berbahasa Inggeris . Ia nampaknya berfungsi dengan baik.
Komuniti penyelidikan juga sedang meneroka sama ada model AI bukan Amerika seperti DeepSeek atau Mistral mungkin berprestasi lebih baik untuk wilayah masing-masing, walaupun ini sebahagian besarnya belum diuji.
Kajian ini berfungsi sebagai peringatan penting bahawa apabila AI menjadi lebih berleluasa dalam penyelidikan dan perniagaan global, kita mesti kekal berjaga-jaga tentang perspektif siapa yang benar-benar diwakili oleh sistem ini. Cabarannya bukan hanya teknikal - ia tentang memastikan bahawa pembangunan AI tidak secara tidak sengaja meratakan kepelbagaian kaya pengalaman manusia ke dalam satu pandangan dunia yang berpusat kepada Barat .
Rujukan: WEIRD in, WEIRD out
 |
|---|
| Lambang ini melambangkan komitmen untuk meningkatkan kualiti data dan pemahaman budaya dalam sistem AI, mencerminkan keperluan untuk penyelesaian yang lebih baik dalam mewakili perspektif yang pelbagai |