Google secara rasmi telah melancarkan program ganjaran pepijat khusus yang menyasarkan kerentanan kecerdasan buatan, menandakan pengembangan ketara dalam usaha keselamatannya ketika integrasi AI semakin mendalam merentasi ekosistem produknya. Inisiatif ini mewakili komitmen gergasi teknologi tersebut terhadap langkah keselamatan proaktif dalam era di mana perkhidmatan berkuasa AI semakin menjadi pusat kepada pengalaman pengguna.
Struktur Ganjaran Komprehensif untuk Penyelidikan Keselamatan AI
Program Ganjaran Kerentanan AI yang baharu menawarkan insentif kewangan yang besar untuk penyelidik yang menemui kelemahan keselamatan kritikal dalam produk AI Google . Ganjaran asas berkisar dari dolar Amerika Syarikat $500 hingga dolar Amerika Syarikat $20,000, bergantung kepada keterukan dan kesan kerentanan yang ditemui. Walau bagaimanapun, penemuan yang paling luar biasa boleh memperoleh sehingga dolar Amerika Syarikat $30,000 untuk penyelidik apabila termasuk bonus kebaharuan sehingga dolar Amerika Syarikat $10,000 untuk vektor serangan yang sangat inovatif.
Struktur Ganjaran
| Jenis Kerentanan | Julat Ganjaran Asas | Maksimum dengan Bonus |
|---|---|---|
| Tindakan Jahat Teruk | Sehingga USD $10,000 | Sehingga USD $20,000 |
| Pintasan Kawalan Akses | Sehingga USD $2,500 | Sehingga USD $12,500 |
| Kerentanan Paling Kritikal | Sehingga USD $20,000 | Sehingga USD $30,000 |
| Kerentanan Am | USD $500 - USD $20,000 | Sehingga USD $30,000 |
Kategori Kerentanan Sasaran Menentukan Skop Program
Google telah menetapkan enam kategori utama kerentanan yang layak untuk ganjaran di bawah program ini. Tindakan jahat mewakili salah satu kategori paling serius, merangkumi serangan yang memanipulasi akaun atau data pengguna melalui gesaan tidak langsung, seperti memaksa peranti rumah pintar melakukan tindakan tanpa kebenaran. Kerentanan kecurian data sensitif, yang boleh membolehkan penyerang mengekstrak maklumat pengguna tanpa kebenaran, juga mendapat ganjaran yang besar.
Kategori Kerentanan yang Layak
- Tindakan Penyangak: Serangan yang mengubah suai akaun/data dengan kesan keselamatan
- Kecurian Data Sensitif: Pengekstrakan maklumat pengguna tanpa kebenaran
- Pemboleh Pancingan Data: Serangan suntikan HTML merentas pengguna
- Kecurian Model: Pendedahan parameter model AI sulit
- Manipulasi Konteks: Manipulasi persekitaran AI yang berterusan
- Pintasan Kawalan Akses: Akses sumber tanpa kebenaran dan pengekstrakan data
Kebimbangan Keselamatan Berimpak Tinggi Mengambil Keutamaan
Program ini secara khusus memberi tumpuan kepada kerentanan dengan implikasi dunia sebenar yang besar berbanding dengan gangguan kecil atau kegagalan AI yang lucu. Serangan pemboleh pancingan data yang boleh menyuntik kandungan hasad merentasi platform Google mewakili kebimbangan kritikal, begitu juga dengan kerentanan kecurian model yang mungkin mendedahkan parameter AI proprietari. Manipulasi konteks dan isu pintasan kawalan akses melengkapkan kategori utama, menekankan tumpuan Google untuk melindungi kedua-dua data pengguna dan integriti sistem.
Liputan Produk Merangkumi Penawaran AI Utama
Program ganjaran pepijat merangkumi produk AI utama Google , termasuk Gemini , Google Search dengan ciri AI, AI Studio , dan integrasi Google Workspace . Liputan komprehensif ini mencerminkan penggunaan meluas keupayaan AI merentasi portfolio perkhidmatan Google dan pengiktirafan syarikat bahawa kerentanan keselamatan dalam sistem ini boleh membawa akibat yang meluas.
Produk yang Dilindungi berbanding Pengecualian
Dalam Skop:
- Gemini
- Google Search (ciri AI)
- AI Studio
- Google Workspace
Di Luar Skop:
- Jailbreaks
- Isu berasaskan kandungan
- Halusinasi AI
- Vertex AI dan produk Google Cloud (VRP berasingan)
Pengecualian Jelas Mengekalkan Fokus Program
Google telah menggariskan secara eksplisit beberapa kategori yang berada di luar skop program untuk mengekalkan fokus pada isu keselamatan yang paling berimpak. Jailbreak, masalah berasaskan kandungan, dan halusinasi AI tidak layak untuk ganjaran, sebahagiannya disebabkan kesukaran dalam menghasilkan semula isu ini secara konsisten dan impaknya yang biasanya terhad kepada sesi pengguna individu. Selain itu, kerentanan dalam Vertex AI dan produk Google Cloud lain dikendalikan melalui saluran pelaporan yang berasingan.
Membina atas Kejayaan yang Telah Ditetapkan
Program khusus ini dibina atas Program Ganjaran Kerentanan sedia ada Google , yang telah mengedarkan lebih daripada dolar Amerika Syarikat $430,000 kepada penyelidik sejak berkembang untuk memasukkan isu berkaitan AI pada tahun 2023. Penciptaan program keselamatan AI yang berdiri sendiri menunjukkan pengiktirafan Google terhadap cabaran unik yang ditimbulkan oleh sistem kecerdasan buatan dan keperluan untuk kepakaran khusus dalam mengenal pasti kerentanan yang berpotensi.
Respons Strategik kepada Landskap Ancaman yang Berkembang
Pelancaran ini datang pada masa yang penting ketika Google terus mengintegrasikan keupayaan AI merentasi suite produknya, mewujudkan permukaan serangan berpotensi baharu yang memerlukan perhatian keselamatan khusus. Dengan memberi insentif kepada penyelidik untuk memberi tumpuan kepada kerentanan berimpak tinggi berbanding eksploit kebaharuan, Google bertujuan untuk mendahului pelakon hasad yang mungkin berusaha mengeksploitasi sistem AI untuk tujuan berbahaya.