Dalam satu eskalasi ancaman siber yang ketara, Google telah mengenal pasti generasi baharu perisian hasad yang secara aktif menggunakan kecerdasan buatan untuk mengubah suai kod dan tingkah lakunya secara dinamik semasa pelaksanaan. Perkembangan ini menandakan peralihan daripada penyerang menggunakan AI untuk produktiviti kepada penyebaran aktif alat berniat jahat yang disesuaikan dan didayakan AI dalam operasi, mewujudkan apa yang dipanggil penyelidik keselamatan sebagai fasa baharu penyalahgunaan AI.
Kemunculan Perisian Hasad AI Adaptif
Kumpulan Perisikan Ancaman Google mendedahkan dalam kertas putih 5 November bahawa musuh telah beralih daripada menggunakan AI untuk peningkatan produktiviti mudah dan kini menggunakan "perisian hasad baharu yang didayakan AI dalam operasi aktif." Penyelidikan itu mengetengahkan sekurang-kurangnya dua keluarga perisian hasad—PromptFlux dan PromptSteal—yang menggunakan model bahasa besar seperti Gemini semasa penyebaran untuk menjana skrip berniat jahat dan mengaburkan kod mereka. Ini mewakili peralihan asas ke arah apa yang digambarkan Google sebagai "perisian hasad autonomi dan adaptif" yang boleh mengubah ciri-cirinya untuk mengelak pengesanan oleh penyelesaian antivirus tradisional.
Cara PromptFlux Beroperasi dan Berevolusi
Ancaman paling canggih antara ini, PromptFlux, berfungsi sebagai penitis VBScript eksperimen yang kerap merujuk AI Gemini Google untuk menjana varian kod baharu yang diaburkan. Menurut analisis Google, perisian hasad itu mengandungi modul "Thinking Robot" yang direka khusus untuk mendapatkan kod segar daripada Gemini yang membantunya mengelak pengesanan antivirus. Keupayaan ini membolehkan perisian hasad itu mencipta apa yang digambarkan penyelidik sebagai "skrip metamorfosis" yang boleh berevolusi dari masa ke masa, walaupun Google menyatakan versi semasa masih dalam pembangunan awal dan belum boleh menimbulkan kerosakan ketara.
Ancaman Tambahan Dipertingkatkan AI Dikenal pasti
Selain PromptFlux, siasatan Google mendedahkan beberapa keluarga perisian hasad berkuasa AI lain yang menunjukkan keupayaan membimbangkan. FruitShell mewujudkan sambungan kawalan-dan-kawalan jauh sambil direka khusus untuk memintas sistem keselamatan berkuasa LLM. PromptLock boleh menjana dan melaksanakan skrip berniat jahat untuk mengekstrak dan menyulit data merentasi peranti Windows, macOS, dan Linux. QuietVault menumpu pada kecurian kelayakan menggunakan AI untuk mencari sistem yang dijangkiti untuk maklumat sensitif, manakala PromptSteal menggunakan pertanyaan API kepada LLM untuk menjana arahan yang melombong data dan mencuri dokumen.
Penyalahgunaan Model Gemini dan Langkah Balas
Ancaman ini melangkaui penyebaran perisian hasad kepada penyalahgunaan langsung model AI sendiri. Google melaporkan kes di mana pelaku berniat jahat menyamar sebagai penyelidik atau pelajar dalam senario "rebut-bendera" untuk memperdaya Gemini memberikan maklumat yang sepatutnya disekat. Syarikat itu mengenal pasti ancaman daripada kumpulan China, Iran, dan Korea Utara menggunakan Gemini untuk kempen penipuan fising, perlombongan data, kecurian kriptowang, dan mencipta deepfake. Sebagai tindak balas, Google telah menyahdayakan akaun berniat jahat yang berkaitan, mengukuhkan perlindungan model, dan menggunakan pandangan daripada serangan ini untuk menambah baik kedua-dua pengelas dan model AI itu sendiri.
Perlindungan Terhadap Ancaman AI yang Berevolusi
Apabila ancaman berkuasa AI menjadi lebih canggih, pengguna perlu mengamalkan amalan keselamatan baharu. Pakar keselamatan mengesyorkan merawat tingkah laku tidak dijangka dalam model AI sebagai bendera merah berpotensi—jika LLM mula menjawab soalan dengan pelik, mendedahkan pengetahuan sistem dalaman, atau cuba tindakan tidak dibenarkan, pengguna harus segera menamatkan sesi. Selain itu, mengehadkan akses AI kepada akaun sensitif seperti perbankan, e-mel, atau dokumen sulit menjadi semakin penting, kerana AI yang dikompromi boleh mengeksploitasi akses ini. Mengekalkan perisian antivirus dan aplikasi AI yang dikemas kini memastikan perlindungan terhadap kelemahan diketahui kerana landskap keselamatan siber berkembang pesat.
Kemunculan perisian hasad yang menulis semula diri mewakili pencapaian penting dalam ancaman siber, mengaburkan garis antara serangan dikendalikan manusia dan perisian berniat jahat yang sepenuhnya autonomi. Semasa Google dan pembekal keselamatan lain berusaha untuk mengukuhkan pertahanan, pertempuran berterusan antara keselamatan berkuasa AI dan ancaman dipertingkatkan AI nampaknya ditakdirkan untuk mentakrifkan bab seterusnya keselamatan siber.