Sebuah perpustakaan TypeScript yang menjanjikan keupayaan ujian keselamatan AI yang komprehensif telah didedahkan sebagai kandungan yang sebahagian besarnya dijana oleh AI dengan dakwaan mengelirukan tentang fungsi dan sokongan penyelidikannya. Perpustakaan prompt-injector , yang mengiklankan 25+ corak suntikan gesaan yang dipilih khas daripada penyelidikan keselamatan terkemuka, mendapat perhatian apabila pengguna menemui percanggahan ketara antara dakwaan pemasarannya dan pelaksanaan sebenar.
Fungsi Teras dan Dokumentasi yang Hilang
Ahli komuniti dengan cepat mengenal pasti isu asas dengan kesahihan projek tersebut. Pakej NPM yang dijanjikan ternyata adalah sesuatu yang sama sekali berbeza, dan pengguna tidak menemui arahan sebenar untuk pelaksanaan. Repositori tersebut mengandungi terutamanya kod laman web dan bukannya perpustakaan ujian keselamatan itu sendiri. Malah contoh penggunaan asas dalam dokumentasi merujuk kepada fungsi yang tidak wujud dan kaedah integrasi yang tidak jelas.
Jurang antara ciri yang diiklankan dan realiti menjadi jelas apabila pengguna cuba mencari kod perpustakaan sebenar, hanya menemui antara muka web tanpa keupayaan ujian keselamatan yang mendasari.
Ciri-ciri yang Didakwa berbanding Sebenar
| Dakwaan Pemasaran | Realiti |
|---|---|
| 25+ corak suntikan gesaan yang dipilih susun | Kandungan yang dijana AI tidak disahkan |
| Pakej NPM "prompt-injector" | Pakej wujud tetapi tidak berkaitan dengan projek |
| Integrasi dengan entiti keselamatan | Tiada integrasi sebenar ditemui |
| Corak serangan yang disokong penyelidikan | Tiada sumber yang dipautkan atau disahkan |
| Perpustakaan sedia untuk pengeluaran | Hanya kod laman web tersedia |
Kandungan Dijana AI Tanpa Pengawasan Manusia
Kredibiliti projek tersebut terjejas teruk apabila didedahkan bahawa salinan pemasaran, dokumentasi, dan dakwaan ciri dijana oleh AI tanpa semakan atau pengesahan manusia yang betul. Laman web tersebut mendakwa integrasi dengan pelbagai entiti keselamatan dan memetik sumber penyelidikan yang tidak pernah benar-benar dipautkan atau disahkan.
Maaf atas keterusterangan ini, tetapi terdapat beberapa kelas penyerahan HN yang menjengkelkan seperti serpihan halus yang digilap ini. Nasihat saya: jangan gunakan AI untuk secara terbuka menyiratkan keupayaan atau pengetahuan yang anda tidak miliki; ia tidak akan pernah menguntungkan anda.
Pencipta akhirnya mengakui bahawa projek tersebut adalah vibe coded dan mengaku kekurangan kepakaran keselamatan, menjelaskan bahawa mereka hanya menggesa Claude AI untuk menyelidik kertas suntikan gesaan tanpa menyemak output untuk ketepatan.
Respons Komuniti dan Akauntabiliti Pembangun
Pendedahan tersebut mencetuskan perbincangan yang lebih luas tentang bahaya menerbitkan kandungan yang dijana AI tanpa pengawasan manusia, terutamanya dalam bidang berkaitan keselamatan di mana ketepatan adalah penting. Ahli komuniti menyatakan kekecewaan dengan persembahan yang digilap yang menyembunyikan kekurangan substans, menekankan bagaimana projek sedemikian membuang masa pembangun dan menghakis kepercayaan terhadap alat keselamatan yang sah.
Insiden tersebut menyerlahkan kebimbangan yang semakin meningkat dalam komuniti teknologi tentang projek yang dijana AI yang kelihatan profesional tetapi kekurangan kepakaran manusia dan pengesahan yang diperlukan untuk perisian yang boleh dipercayai, terutamanya dalam bidang kritikal seperti ujian keselamatan.
Kategori Serangan Yang Diiklankan
- Jailbreaking: 5 corak untuk serangan berasaskan main peranan
- Instruction Hijacking: 6 corak untuk mengatasi arahan sistem
- Encoding Attacks: 7 corak menggunakan teknik pengaburan
- Logic Traps: 6 corak menggunakan eksploitasi penaakulan yang canggih
Nota: Kategori-kategori ini dijana oleh AI dan tidak disahkan terhadap penyelidikan keselamatan sebenar
Pengajaran untuk Pembangunan Dibantu AI
Kes ini berfungsi sebagai kisah amaran untuk pembangun yang menggunakan bantuan AI dalam projek mereka. Walaupun AI boleh menjadi alat yang berkuasa untuk menjana idea dan kod awal, insiden tersebut menunjukkan kepentingan kepakaran manusia, semakan menyeluruh, dan persembahan jujur tentang keupayaan projek.
Pengakuan akhirnya oleh pencipta dan janji untuk memperbaiki projek dengan penyelidikan dan pengesahan yang betul menunjukkan jalan ke hadapan untuk pembangunan dibantu AI yang mengekalkan integriti dan memberikan nilai tulen kepada pengguna.