Satu siri video janaan AI yang menampilkan seorang lelaki kulit putih fiksyen bernama Josh yang mengadu tentang persaingan kerja daripada pendatang telah mencetuskan perbincangan hangat mengenai etika kecerdasan buatan dalam pemasaran dan manipulasi media sosial. Video-video tersebut, yang dicipta menggunakan perisian AI canggih Veo milik Google , telah dikeluarkan daripada TikTok selepas siasatan CBC mendedahkan bahawa ia adalah sebahagian daripada kempen fake-fluencing oleh syarikat AI Nayva .
Keupayaan AI Google Veo:
- Veo2 dikeluarkan pada Mei 2024
- Mencipta video daripada arahan teks
- Pergerakan bibir yang disegerakkan dengan audio
- Mengurangkan artifak visual berbanding versi sebelumnya
- Tera air automatik di sudut kanan bawah
Kebimbangan Komuniti Mengenai Keupayaan Penipuan AI
Insiden ini telah menimbulkan persoalan serius tentang betapa mudahnya AI moden boleh menipu penonton. Perbincangan komuniti mendedahkan bahawa walaupun pakar pemasaran pada mulanya tertipu dengan kualiti realistik video-video tersebut. Versi terkini AI Veo2 milik Google boleh mencipta kandungan yang sangat meyakinkan daripada gesaan teks yang ringkas, dengan pergerakan bibir yang segerak dan suara yang kedengaran semula jadi yang sukar dicapai oleh alat AI sebelum ini.
Apa yang menjadikan perkara ini amat membimbangkan ialah petunjuk visual halus yang dahulu membantu mengenal pasti kandungan janaan AI kini semakin sukar dikesan. Walaupun sesetengah penonton menyedari ketidakkonsistenan seperti warna tangan yang tidak sepadan atau pergerakan yang tidak semula jadi, ramai yang lain percaya mereka sedang menonton seseorang yang sebenar berkongsi pengalaman tulen.
Perdebatan Mengenai Tanggungjawab Platform dan Moderasi Kandungan
Penyingkiran video-video ini telah mencetuskan perdebatan sengit mengenai akauntabiliti platform media sosial. Walaupun TikTok menyatakan video-video tersebut melanggar garis panduan kerana pelabelan AI yang tidak mencukupi dan bukannya mesej kontroversi mereka, ahli komuniti mempersoalkan sama ada platform sepatutnya mengambil tindakan yang lebih tegas terhadap kandungan manipulatif tanpa mengira klasifikasi teknikalnya.
Ada yang berpendapat bahawa tanggungjawab terletak pada pencipta untuk menandakan kandungan janaan AI dengan jelas, manakala yang lain percaya platform memerlukan sistem pengesanan yang lebih kukuh. Perbincangan ini menyerlahkan cabaran yang semakin meningkat apabila kandungan janaan AI menjadi semakin canggih dan sukar dibezakan daripada siaran tulen.
Garis Panduan Kandungan AI TikTok:
- Kandungan realistik yang dijana AI mesti dilabelkan dengan jelas
- Memerlukan kapsyen, tera air, pelekat atau label
- Mesej "Pencipta melabelkan sebagai dijana AI" apabila ditag dengan betul
- Label tidak digunakan secara automatik oleh platform
Implikasi Yang Lebih Luas Untuk Peperangan Maklumat
Mungkin yang paling merisaukan pemerhati komuniti ialah bagaimana insiden ini menunjukkan potensi AI untuk menguatkan ketegangan sosial dan menyebarkan mesej yang memecah belahkan. Video-video tersebut menyasarkan kebimbangan ekonomi sebenar mengenai pengangguran belia dan persaingan kerja, menggunakan persona buatan untuk mengesahkan pandangan kontroversi dan berpotensi mempengaruhi pendapat umum mengenai dasar imigresen.
Jenis kandungan ini dan penceritaan yang sangat memolarisasi adalah sesuatu yang kita jangkakan daripada kumpulan sayap kanan. Bagi sebuah syarikat menggunakan jenis nada kempen ini untuk menarik pengguna kepada perkhidmatannya adalah sangat, sangat bermasalah.
Kes ini menggambarkan bagaimana pelaku jahat boleh mengeksploitasi alat AI canggih untuk mencipta kempen maklumat salah yang meyakinkan, menjadikannya semakin sukar bagi pengguna biasa untuk membezakan antara kandungan akar umbi tulen dan propaganda buatan yang direka untuk memanipulasi sentimen awam.
Konteks Pekerjaan Belia:
- Pengangguran belia Toronto kira-kira 20%
- Mempengaruhi demografi berusia 15-24 tahun
- Termasuk pelajar yang masih dalam pendidikan
- Mewujudkan kerentanan terhadap mesej yang memecah belahkan
Masa Depan Peraturan Kandungan AI
Insiden ini mungkin mempercepatkan seruan untuk peraturan yang lebih ketat terhadap kandungan janaan AI merentasi platform media sosial. Perbincangan komuniti menunjukkan sokongan yang semakin meningkat untuk keperluan pelabelan mandatori dan sekatan berpotensi terhadap penggunaan AI untuk mencipta persona manusia yang realistik untuk tujuan pemasaran.
Apabila teknologi penjanaan video AI terus bertambah baik, cabaran untuk mengekalkan kepercayaan dalam kandungan dalam talian menjadi lebih kompleks. Video Josh berfungsi sebagai amaran awal tentang bagaimana alat AI yang canggih boleh disalahgunakan untuk menipu khalayak dan memanipulasi wacana awam mengenai isu sosial dan politik yang sensitif.
Rujukan: That white guy who can't get a job at Tim Hortons? He's AI