Kebangkitan AI generatif telah mencipta masalah yang tidak dijangka yang mengancam asas bagaimana sistem ini belajar dan bertambah baik. Apabila lebih ramai orang menggunakan alat AI untuk mencipta kandungan bagi laman web, gelung maklum balas berbahaya sedang muncul yang boleh merosakkan teknologi yang menggerakkan sistem AI moden secara asasnya.
Peristiwa Penting Mengikut Kronologi:
- 1989: Tim Berners-Lee mencipta World Wide Web di CERN
- 1993: Pelayar web Mosaic dilancarkan
- 1995: Internet menjadi tersedia secara komersial
- November 2022: ChatGPT dilancarkan, memulakan revolusi GenAI
- Julai 2024: Nature menerbitkan kajian mengenai keruntuhan model AI daripada latihan rekursif
Model Perniagaan Web Di Bawah Ancaman
Ekosistem web tradisional bergantung pada pertukaran mudah: pengguna melawat laman web untuk mencari maklumat, dan pengiklan membayar untuk menjangkau pengguna tersebut. Enjin carian Google telah berkembang maju dengan model ini selama beberapa dekad, mengarahkan orang ke halaman web sambil memperoleh hasil daripada iklan. Walau bagaimanapun, chatbot AI sedang mengubah dinamik ini dengan memberikan jawapan terus kepada soalan pengguna, menghapuskan keperluan untuk melawat laman web sama sekali.
Peralihan ini mengancam lebih daripada sekadar hasil iklan. Apabila orang berhenti melawat laman web, pencipta kandungan kehilangan motivasi untuk menerbitkan bahan baharu. Perbincangan komuniti mendedahkan kebimbangan utama tentang kitaran ini - jika web menjadi kurang bernilai kepada pengguna dan pencipta, seluruh ekosistem maklumat boleh runtuh.
Ancaman Ekosistem Web:
- Model Hasil: Carian berasaskan pengiklanan menjadi kurang berdaya maju apabila pengguna memintas laman web
- Penciptaan Kandungan: Motivasi penerbit untuk mencipta kandungan asal berkurangan
- Data Latihan: Sumber yang dijana manusia berkualiti tinggi untuk latihan AI semakin berkurangan
- Kualiti Maklumat: Peningkatan risiko maklumat salah yang dijana AI dan "halusinasi"
Keruntuhan Model: Apabila AI Berlatih Pada AI
Masalah teknikal yang lebih serius sedang muncul apabila kandungan dijana AI membanjiri internet. Penyelidikan yang diterbitkan dalam Nature pada Julai 2024 mendedahkan bahawa apabila model bahasa besar berlatih pada kandungan yang dijana oleh sistem AI lain, mereka mengalami keruntuhan model - kemerosotan di mana AI kehilangan keupayaannya untuk memahami rangkaian penuh ekspresi dan pengetahuan manusia.
Bayangkan AI memberitahu anda bahawa selamat dan wajar untuk mengawet daging dalam rendaman air untuk pemeliharaan makanan, dan apa yang sebenarnya bermaksud apabila anda memakan daging dalam tin mengikut arahan tersebut.
Komuniti telah mengenal pasti ini sebagai isu keselamatan kritikal. Apabila teks dijana AI menjadi lebih mudah dihasilkan daripada penulisan manusia, laman web semakin dipenuhi dengan kandungan sintetik. Apabila sistem AI masa depan berlatih pada data buatan ini, mereka kehilangan sentuhan dengan pengetahuan manusia yang tulen dan boleh memberikan maklumat salah yang berbahaya.
Penemuan Penyelidikan Keruntuhan Model:
- Tajuk Kajian: "AI Models Collapse when Trained on Recursively Generated Data"
- Penemuan Utama: "Penggunaan kandungan yang dijana model secara sembarangan dalam latihan menyebabkan kecacatan yang tidak dapat dipulihkan dalam model yang terhasil"
- Impak: Sistem AI kehilangan keupayaan untuk mewakili rangkaian penuh kandungan manusia asal
- Penyelesaian Berpotensi: Menambah kandungan AI kepada kandungan manusia dan bukannya menggantikannya sepenuhnya
 |
|---|
| Kompas digital melambangkan keperluan untuk navigasi yang tepat dalam landskap kompleks kandungan yang dihasilkan AI |
Kematian Kualiti Maklumat
Ramai dalam komuniti teknologi berpendapat bahawa kualiti web telah merosot dengan ketara disebabkan oleh taktik pengoptimuman enjin carian dan kandungan yang didorong iklan. AI mungkin hanya mempercepatkan masalah sedia ada dan bukannya mencipta masalah baharu. Cabarannya ialah sistem AI memerlukan kandungan dijana manusia yang berkualiti tinggi dan pelbagai untuk berfungsi dengan betul, tetapi mereka pada masa yang sama mengurangkan insentif untuk mencipta kandungan sedemikian.
Sesetengah pakar mencadangkan bahawa syarikat AI akhirnya perlu membayar pencipta kandungan untuk data latihan, sama seperti cara perkhidmatan streaming membayar untuk kandungan muzik dan video. Walau bagaimanapun, model percuma semasa pengikisan web menjadikan peralihan ini mencabar dari segi ekonomi.
Pengesahan Menjadi Kritikal
Apabila kandungan dijana AI menjadi tidak dapat dibezakan daripada penulisan manusia, keupayaan untuk mengesahkan sumber maklumat menjadi lebih penting berbanding sebelumnya. Komuniti menekankan bahawa pengguna memerlukan akses kepada sumber asal untuk menyemak fakta respons AI, tetapi ramai orang melangkau langkah pengesahan ini kerana kemudahan.
Ironinya ialah walaupun AI berjanji untuk menjadikan maklumat lebih mudah diakses, ia sebenarnya mungkin menjadikan maklumat yang boleh dipercayai lebih sukar ditemui. Perpustakaan dan sumber berwibawa kekal penting, tetapi mereka tidak dapat menandingi kemudahan dan ketersediaan sistem AI - walaupun sistem tersebut memberikan maklumat yang salah.
Masa depan web mungkin bergantung pada mencari model ekonomi baharu yang memberi ganjaran kepada penciptaan kandungan berkualiti sambil mengekalkan kebolehcapaian yang menjadikan internet revolusioner. Tanpa menyelesaikan teka-teki ini, kita berisiko mencipta ekosistem maklumat di mana sistem AI menjadi kurang boleh dipercayai dari masa ke masa, berpotensi membawa kepada maklumat salah yang meluas dan keruntuhan sistem pengetahuan digital.
Rujukan: Will AI Destroy the World Wide Web?
 |
|---|
| Rangkaian rumah pintar mewakili ketersambungan sumber maklumat dalam usaha mendapatkan data yang boleh dipercayai dalam landskap yang didominasi AI |