Demonstrasi produk terbaru Meta di Connect 2023 bertukar menjadi bencana teknikal yang memalukan, mendedahkan kelemahan keselamatan yang serius dalam cermin mata pintar Ray-Ban Meta baharu mereka. Apa yang sepatutnya mempamerkan keupayaan AI canggih syarikat itu sebaliknya menonjolkan kecacatan asas dalam sistem pengecaman suara peranti tersebut.
Pengaktifan Besar-besaran Mencipta Kekacauan
Demonstrasi itu menjadi tidak kena bila seorang chef di atas pentas berkata Hey, Meta, start Live AI untuk menunjukkan pembantu AI cermin mata tersebut. Daripada mengaktifkan hanya unit demonstrasi sahaja, arahan itu mencetuskan setiap pasang cermin mata Ray-Ban Meta di dalam bangunan. Pengaktifan besar-besaran ini mencipta masalah berturut-turut yang meruntuhkan keseluruhan demonstrasi.
Isu ini berpunca daripada kekurangan pengecaman kata pembangun yang diperibadikan atau teknologi pembentukan pancaran mikrofon yang betul pada cermin mata tersebut. Mana-mana orang dalam jarak pendengaran nampaknya boleh mengeluarkan arahan suara yang AI terima secara automatik, tanpa mengira siapa yang memakai cermin mata itu.
Kelemahan Keselamatan yang Dikenal pasti:
- Tiada pengecaman kata bangun yang diperibadikan
- Tidak mempunyai teknologi beamforming mikrofon
- Menerima arahan suara daripada mana-mana orang berdekatan
- Berpotensi untuk pengaktifan jauh dan rakaman tanpa kebenaran
- Pengaktifan besar-besaran mungkin berlaku dalam persekitaran sesak
Kebimbangan Privasi dan Keselamatan Timbul
Demonstrasi yang gagal itu telah mencetuskan perbincangan serius mengenai implikasi privasi. Ahli komuniti amat bimbang tentang potensi pelakon berniat jahat mengeksploitasi kelemahan ini. Cermin mata itu secara teorinya boleh dicetuskan dari jauh untuk mula merakam audio dan video tanpa pengetahuan pemakai.
Seseorang akan mencipta cara subauditif yang manis untuk mencetuskan setiap pasang cermin mata di luar sana. Secara automatik mendedahkan diri anda, melepaskan semua foto peribadi anda, dokumen, segala-galanya yang AI boleh akses.
Kelemahan keselamatan ini menjadi lebih membimbangkan apabila mempertimbangkan keupayaan kamera cermin mata dan integrasi AI merentasi platform Meta termasuk WhatsApp , Messenger , dan Instagram .
Ciri-ciri Utama Cermin Mata Pintar Ray-Ban Meta:
- Pembantu AI Meta terbina dalam yang dikuasakan oleh model bahasa Llama 2
- Keupayaan penjanaan imej masa nyata
- Integrasi dengan WhatsApp , Messenger , dan Instagram
- Pengaktifan suara melalui arahan "Hey, Meta"
- Fungsi rakaman kamera dan audio
Masalah Infrastruktur Teknikal
Selain isu arahan suara, persediaan demonstrasi Meta mencipta titik kegagalan tambahan. Syarikat itu telah menghalakan semua trafik Live AI melalui satu pelayan pembangunan untuk mengasingkan demonstrasi, tetapi ini menjejaskan semua orang di dalam bangunan yang menggunakan titik akses yang sama, termasuk headset Quest .
Keputusan infrastruktur ini mengubah apa yang mungkin hanya gangguan kecil menjadi kerosakan sistem yang lengkap, meninggalkan pembentang bergelut dengan AI yang tidak responsif dan senyap yang janggal semasa apa yang sepatutnya menjadi pameran produk utama mereka.
Insiden itu menimbulkan persoalan sama ada tergesa-gesa Meta untuk mengintegrasikan AI merentasi ekosistem perkakasannya telah menjejaskan perlindungan keselamatan dan privasi asas yang dijangkakan pengguna daripada teknologi boleh pakai.
Rujukan: Meta Ray-Ban Display and everything else unveiled at Meta Connect 2023