Chatbot kecerdasan buatan sedang menjadi medan perburuan baharu bagi penjenayah siber, kerana penyelidikan mendedahkan alat-alat ini kerap memberikan alamat laman web yang salah apabila pengguna meminta halaman log masuk syarikat. Kelemahan yang muncul ini sedang mengubah cara penipu mendekati kegiatan mereka dalam dunia yang didorong oleh AI.
Skala Kesilapan URL AI
Ujian terkini terhadap model GPT-4.1 menunjukkan corak yang membimbangkan apabila pengguna meminta alamat laman web untuk syarikat-syarikat utama. Sistem AI hanya memberikan URL yang betul 66% daripada masa, meninggalkan lebih daripada satu pertiga respons berpotensi bermasalah. Antara respons yang salah, 29% menghala ke laman web yang mati atau digantung, manakala 5% mengarahkan pengguna ke tapak yang sah tetapi salah.
Kadar kesilapan ini berpunca daripada cara model AI memproses maklumat. Tidak seperti enjin carian tradisional yang menilai reputasi dan autoriti laman web, chatbot AI memberi tumpuan kepada corak perkataan dan perkaitan tanpa memahami kebolehpercayaan sumber yang mereka rujuk.
Statistik Ketepatan URL AI:
- URL betul: 66% daripada masa
- Laman web mati/digantung: 29% daripada respons
- Laman web salah tetapi sah: 5% daripada respons
- Jumlah kadar ralat: 34% daripada semua permintaan URL
Penipu Mengeksploitasi Kelemahan AI
Penjenayah siber telah cepat menyesuaikan diri dengan landskap baharu ini, membangunkan strategi yang direka khusus untuk meracuni hasil yang dijana oleh AI. Apabila chatbot mencadangkan nama domain yang tidak berdaftar, penipu boleh membeli domain tersebut dan menyediakan tapak phishing yang meyakinkan yang kelihatan sah kepada pengguna yang tidak curiga.
Ancaman ini melangkaui kesilapan URL yang mudah. Penjenayah kini mencipta ekosistem palsu yang rumit untuk menipu sistem AI. Dalam satu kes yang didokumentasikan melibatkan blockchain Solana, penipu membina berpuluh-puluh repositori GitHub palsu, tutorial, dan akaun media sosial yang semuanya direka untuk menjadikan API hasad mereka kelihatan sah kepada model AI.
Taktik Penipu untuk Meracuni AI:
- Memantau cadangan URL chatbot AI untuk domain yang tidak berdaftar
- Membeli domain yang dicadangkan untuk mencipta laman phishing
- Mencipta repositori GitHub dan dokumentasi palsu
- Membina ekosistem yang rumit dengan akaun media sosial palsu
- Menyasarkan API blockchain dan alat pembangunan
Masalah Nofollow Kembali
Kebangkitan carian berkuasa AI telah membawa kembali masalah lama dalam bentuk baharu. Pengendali laman web sebelum ini menggunakan tag nofollow untuk mencegah spam pengoptimuman enjin carian, tetapi langkah perlindungan ini terbukti tidak berkesan terhadap pengikis kandungan AI. Seperti yang dinyatakan oleh seorang pemerhati komuniti:
Pengendali tapak boleh menandakan semua pautan yang diserahkan pengguna sebagai nofollow, menjadikan tapak mereka tidak berguna untuk spammer SEO. Tetapi spammer telah belajar bahawa kebanyakan bot pengikis kandungan LLM tidak mengambil berat tentang nofollow, jadi mereka kembali kepada spam di mana-mana sahaja.
Had teknikal ini bermakna langkah keselamatan web tradisional yang direka untuk enjin carian tidak dapat diterjemahkan dengan baik ke era AI, menjadikan laman web lebih terdedah kepada manipulasi.
Penyelesaian Alternatif Muncul
Walaupun chatbot AI utama bergelut dengan ketepatan URL, beberapa alat carian khusus sedang menangani kebimbangan ini. Platform alternatif seperti Phind nampaknya mempunyai kadar kejayaan yang lebih baik untuk menyediakan pautan yang tepat, walaupun ekosistem yang lebih luas masih menghadapi cabaran yang ketara.
Situasi ini menyerlahkan peralihan asas dalam cara orang mencari maklumat dalam talian. Apabila pengguna semakin beralih kepada chatbot AI dan bukannya enjin carian tradisional, mereka sering tidak menyedari potensi kesilapan yang dijana oleh AI, menjadikan mereka lebih mudah terdedah kepada percubaan phishing yang canggih.
Komuniti keselamatan siber terus membangunkan pertahanan baharu terhadap serangan yang menyasarkan AI ini, tetapi permainan kucing dan tikus antara penjenayah dan profesional keselamatan jelas telah memasuki fasa baharu di mana kecerdasan buatan berfungsi sebagai alat dan sasaran.