Janji pelayar berkuasa AI yang boleh membeli-belah, melayari dan mengendalikan tugas secara autonomi sedang menjadi kenyataan, tetapi penyelidikan baru mendedahkan sistem ini sangat terdedah kepada penipuan dan serangan berniat jahat. Syarikat seperti Microsoft, OpenAI, dan Perplexity sedang melancarkan pelayar agentik yang boleh melaksanakan tugas web yang kompleks tanpa pengawasan manusia, namun penyelidik keselamatan mendapati sistem ini boleh diperdaya dengan mudah untuk membuat pembelian yang tidak diingini dan terjebak dengan penipuan canggih.
Pelaksanaan Pelayar AI Semasa
- Microsoft Edge: Integrasi Copilot untuk bantuan pelayaran
- OpenAI: Pelayar sandboxed eksperimental dalam "mod ejen"
- Perplexity Comet: Keupayaan pelayaran autonomi penuh
- The Browser Company Dia: Ciri-ciri pelayaran berkuasa AI
 |
|---|
| Keputusan ujian pelayar AI agentic mendedahkan kelemahan mereka terhadap penipuan dan serangan berniat jahat |
Masalah Kepercayaan dengan Pembelian Autonomi
Komuniti teknologi terbahagi dalam isu sama ada ejen AI patut mempunyai kuasa membeli sama sekali. Ramai pengguna menyatakan kebimbangan serius tentang membenarkan algoritma membelanjakan wang mereka, terutamanya memandangkan isu kebolehpercayaan semasa dengan sistem AI. Masalah asas bukan sekadar teknikal - ia berkaitan kepercayaan dan kawalan.
Walaupun individu kaya mungkin mendapat nilai dalam mempunyai pembantu AI mengendalikan pembelian rutin, orang biasa menghadapi akibat kewangan sebenar daripada kesilapan AI. Perbezaan dalam toleransi risiko antara seseorang yang tidak kisah jika bil bulanan barangan runcit mereka adalah 100 dolar Amerika atau 200 dolar Amerika berbanding seseorang yang mempunyai bajet ketat adalah sangat besar. Ini mewujudkan jurang yang membimbangkan antara siapa yang membina sistem ini dan siapa yang mungkin benar-benar menggunakannya.
Vektor Serangan Baru Muncul
Penyelidik keselamatan telah mengenal pasti beberapa kaedah serangan novel yang secara khusus menyasarkan pelayar AI. Yang paling membimbangkan ialah PromptFix - teknik yang menyembunyikan arahan berniat jahat di dalam gesaan keselamatan palsu, pada asasnya merampas proses membuat keputusan AI. Tidak seperti pancingan data tradisional yang menyasarkan manusia, serangan ini mengeksploitasi ketidakupayaan AI untuk membezakan antara kandungan sah dan arahan tersembunyi.
Penyelidikan mendedahkan bahawa pelayar AI dengan mudah berinteraksi dengan laman web beli-belah palsu, halaman pancingan data, dan gesaan berniat jahat tanpa pengesahan yang betul. Ini mewakili kelemahan keselamatan asas di mana teknologi yang sama yang menjadikan AI berguna juga menjadikannya terdedah kepada manipulasi.
Nota: AI Agentik merujuk kepada sistem kecerdasan buatan yang boleh bertindak secara bebas dan membuat keputusan tanpa pengawasan manusia yang berterusan.
Kelemahan Keselamatan yang Dikenal Pasti
- Serangan PromptFix: Arahan berniat jahat yang tersembunyi dalam gesaan keselamatan palsu
- Interaksi Laman Web Pancingan Data: Ejen AI yang terlibat dengan laman web penipuan
- Suntikan Gesaan: Laman web luaran yang memprogram semula tingkah laku AI
- Kekurangan Pengesahan Pembelian: Tiada pengawasan manusia untuk transaksi kewangan
 |
|---|
| Carta alir yang menunjukkan bagaimana serangan suntikan gesaan boleh mengeksploitasi ejen AI |
Dilema Monetisasi
Di sebalik dorongan untuk ejen pembelian AI terletak insentif perniagaan yang jelas. Sistem ini mewujudkan aliran hasil baru melalui yuran transaksi dan penempatan produk yang ditaja. Kebimbangan di kalangan pengguna ialah ejen AI akan mengutamakan perkongsian dan komisen berbanding faedah pengguna yang tulen.
Satu langkah kecil untuk AI Agentik, satu langkah besar ke belakang untuk keselamatan kita!
Komuniti bimbang akan berulangnya model pengiklanan enjin carian, di mana hasil yang ditaja muncul di atas hasil organik. Dengan ejen AI membuat keputusan pembelian, pengaruh perkongsian berbayar menjadi kurang telus kepada pengguna.
Cabaran Pelaksanaan dan Penyelesaian
Cabaran teknikal teras berpunca daripada ketidakupayaan sistem AI untuk memisahkan kandungan daripada arahan - segala-galanya diproses sebagai arahan yang berpotensi. Ini menjadikan mereka terdedah kepada serangan suntikan gesaan di mana laman web berniat jahat pada asasnya boleh memprogram semula tingkah laku AI melalui teks yang direka dengan teliti.
Beberapa penyelesaian yang dicadangkan termasuk mengehadkan ejen AI kepada laman web dipercayai tertentu, memerlukan kelulusan manual untuk semua pembelian, dan melaksanakan kotak pasir yang lebih baik. Walau bagaimanapun, perlindungan ini sering bercanggah dengan kemudahan yang menjadikan ejen AI menarik pada mulanya.
 |
|---|
| Representasi infografik pelayar berkuasa AI yang berbeza dan ciri-cirinya |
Kesimpulan
Tergesa-gesa untuk menggunakan pelayar AI menyerlahkan corak yang lebih luas dalam industri teknologi: mengutamakan pengalaman pengguna berbanding pertimbangan keselamatan. Walaupun teknologi menunjukkan janji untuk mengendalikan tugas rutin, pelaksanaan semasa tidak mempunyai langkah keselamatan yang kukuh yang diperlukan untuk transaksi kewangan. Sehingga isu keselamatan asas ini diselesaikan, pengguna harus mendekati pembelian berkuasa AI dengan berhati-hati.
Konsensus komuniti mencadangkan bahawa ejen AI berfungsi paling baik apabila mereka menyelidik dan mengesyorkan daripada melaksanakan pembelian secara langsung. Pendekatan ini mengekalkan faedah kemudahan sambil memastikan manusia mengawal keputusan kewangan.
Rujukan: Scamlexity We Put Agentic Al Browsers to the Test - They Clicked, They Paid, They Failed