Enjin carian DuckDuckGo telah memperkenalkan ciri baharu untuk menapis imej yang dijana oleh AI daripada hasil carian, sebagai respons kepada kekecewaan pengguna yang semakin meningkat terhadap kandungan buatan yang membanjiri internet. Penapis ini bergantung pada senarai sekatan sumber terbuka yang dikurasi secara manual dan mewakili percubaan enjin carian tersebut untuk membantu pengguna membezakan antara kandungan sebenar dan buatan.
Butiran Penapis AI DuckDuckGo:
- Menggunakan senarai sekatan sumber terbuka yang dikurasi secara manual
- Termasuk senarai 'nuclear' daripada uBlockOrigin dan uBlacklist
- Diterangkan sebagai sistem penyingkiran usaha terbaik
- Masih membenarkan sesetengah kandungan AI terlepas daripada pengesanan
 |
|---|
| DuckDuckGo memperkenalkan ciri penapisan imej AI baharu untuk meningkatkan hasil carian |
Pinterest dan Platform Media Sosial Terjejas Teruk oleh Kandungan AI
Pengguna di pelbagai platform mengalami gangguan ketara daripada kandungan yang dijana oleh AI. Pinterest , yang dahulunya merupakan destinasi popular untuk inspirasi visual, telah menjadi hampir tidak boleh digunakan bagi ramai pengguna yang mencari kandungan autentik. Peminat seni bina dan pencari resipi melaporkan bahawa hasil carian kini didominasi oleh imej yang dipertingkatkan AI atau imej buatan sepenuhnya, tanpa cara yang berkesan untuk menapisnya.
Masalah ini melangkaui Pinterest kepada kebanyakan platform kandungan yang dijana pengguna yang membenarkan imej dan video. Laman media sosial berkaitan seni telah terjejas secara khusus, dengan kandungan AI bukan sahaja menjadikan fungsi carian tidak berguna tetapi juga menyahgalakkan pencipta tulen yang mendapati platform mereka dibanjiri dengan bahan yang dijana oleh bot.
Platform Yang Paling Terjejas oleh Kandungan AI:
- Pinterest : Carian seni bina dan resipi didominasi oleh kandungan yang dipertingkatkan AI
- Platform media sosial berkaitan seni: Mematahkan semangat pencipta tulen
- Laman web resipi: Mengikut formula AI yang dioptimumkan SEO yang boleh diramal
- Laman nasihat perubatan: Maklumat kesihatan yang dijana AI membimbangkan
Enjin Carian Bergelut dengan Pengesanan Kandungan AI
Walaupun penapis baharu DuckDuckGo mewakili kemajuan, ujian awal mendedahkan bahawa beberapa imej yang dijana AI masih terlepas daripada sistem pengesanan. Cabaran mengenal pasti kandungan AI menjadi semakin sukar apabila teknologi bertambah baik dan menghampiri kualiti yang hampir sempurna.
Apabila teknologi menghampiri kesempurnaan, sama ada sesuatu itu 'AI' akan menjadi ujian seperti sama ada sesuatu itu pornografi: 'Saya tahu apabila saya melihatnya.'
Enjin carian lain juga bergelut dengan isu ini. Kagi telah melaksanakan ciri Exclude AI generated images yang serupa, yang diterangkan sebagai sistem penyingkiran usaha terbaik. Walau bagaimanapun, kemampanan jangka panjang pendekatan penapisan ini masih tidak pasti kerana penjanaan kandungan AI terus berkembang.
Penyelesaian Penapis AI yang Bersaing:
- Kagi: Ciri "Exclude AI generated images" dengan penyingkiran usaha terbaik
- Mozilla: Model pengesanan teks AI (roberta-base-ai-text-detector) dengan kadar positif palsu yang tinggi
- Skrip Pengguna: Alat yang dibangunkan komuniti untuk menyerlahkan teks yang dijana AI
Kesan yang Lebih Luas terhadap Kualiti Carian Web
Masalah kandungan AI melangkaui imej kepada hasil carian berasaskan teks. Pengguna melaporkan menghadapi banyak ladang kandungan yang dijana AI yang menghasilkan nasihat perubatan dan maklumat lain yang berpotensi berbahaya. Sesetengahnya terpaksa menapis hasil carian mengikut tarikh, secara automatik menolak apa-apa daripada tahun semasa sebagai kemungkinan spam SEO .
Carian resipi telah menjadi bermasalah secara khusus, dengan kandungan yang dijana AI mengikuti formula yang boleh diramal yang mengutamakan pengoptimuman enjin carian berbanding kegunaan sebenar. Ini telah menyebabkan sesetengah pengguna mengkurasi senarai laman web yang dipercayai secara manual daripada bergantung pada hasil enjin carian.
Penyelesaian Teknikal dan Cabaran Masa Depan
Pelbagai pendekatan teknikal sedang diterokai untuk menangani pencemaran kandungan AI. Ada yang mencadangkan kaedah kriptografi berdasarkan perkakasan kamera untuk mengesahkan foto autentik, walaupun sistem ini menghadapi cabaran tersendiri termasuk akar kepercayaan yang terjejas dan keupayaan untuk memfoto imej yang dijana AI.
Mozilla telah membangunkan model pengesanan teks AI yang boleh menyerlahkan kandungan yang berpotensi buatan, walaupun alat ini masih menghasilkan positif palsu. Cabaran pengesanan berkemungkinan akan semakin intensif apabila teknologi penjanaan AI terus bertambah baik dan menjadi lebih sukar untuk dibezakan daripada kandungan yang dicipta manusia.
Pengenalan penapis kandungan AI oleh enjin carian seperti DuckDuckGo mewakili langkah penting dalam mengekalkan kualiti carian, tetapi perlumbaan senjata yang berterusan antara teknologi penjanaan dan pengesanan AI menunjukkan bahawa ini akan kekal sebagai cabaran yang berkembang untuk masa hadapan yang boleh dijangka.
Rujukan: What is Mistral A1? Everything to know about the OpenAl competitor