OnlyCats , sebuah laman web perkongsian foto kucing yang ringkas, telah menjadi kajian kes yang tidak dijangka dalam cabaran moderasi kandungan AI. Apa yang bermula sebagai projek keluarga telah menarik perhatian yang lebih luas selepas pengguna menemui cara untuk memintas sistem penapisan automatiknya.
Moderasi AI Gagal Memenuhi Jangkaan
Laman web ini bergantung pada model omni-moderation-latest OpenAI dan GPT-4o-mini untuk penapisan kandungan, tetapi pengguna melaporkan keputusan yang bercampur-campur. Walaupun sesetengah pihak memuji keupayaan sistem untuk menolak imej bukan kucing, yang lain telah berjaya memuat naik kandungan yang jelas melanggar dasar khusus kucing sahaja di laman web tersebut. Pencipta, yang mengenal pasti diri mereka dalam komen, mengakui pelaksanaan itu agak naif kerana projek ini pada asalnya bertujuan untuk rakan dan keluarga sahaja.
Ahli komuniti telah menyatakan kekecewaan terhadap kualiti dan kelaziman kandungan janaan AI di platform tersebut. Kapsyen automatik, walaupun berfungsi, tidak mempunyai humor dan kreativiti yang menjadikan kandungan kucing internet terdahulu mudah diingati.
Tumpukan Moderasi AI yang Digunakan:
- Model omni-moderation-latest milik OpenAI untuk moderasi kandungan
- GPT-4o-mini untuk pengesanan kucing melalui arahan ringkas
- Tiada lapisan moderasi manusia dilaksanakan
Kebimbangan Pengguna Mengenai Kualiti Kandungan dan Penapisan
Beberapa pengguna telah membangkitkan kebimbangan mengenai keupayaan laman web untuk mengendalikan kandungan yang tidak sesuai apabila ia berkembang melebihi skop asalnya. Sistem semasa kelihatan tidak konsisten, berjaya menyekat beberapa penyerahan bukan kucing sambil membenarkan yang lain melalui. Ini telah membawa kepada cadangan untuk melaksanakan pengesanan pendua, had kadar, dan moderasi manusia.
Perbincangan tersebut mendedahkan ketegangan yang lebih luas antara penjanaan kandungan automatik dan penyerahan pengguna yang tulen. Ramai ahli komuniti lebih suka foto kucing tulen dengan kapsyen yang ditulis manusia berbanding alternatif janaan AI, melihat yang terakhir sebagai generik dan tidak memberi inspirasi.
Isu Utama yang Dikenal pasti:
- Penapisan yang tidak konsisten membenarkan kandungan bukan kucing melaluinya
- Kapsyen yang dijana AI dianggap berkualiti rendah berbanding kreativiti manusia
- Tiada pengesanan pendua atau had kadar yang dilaksanakan
- Sistem direka untuk kegunaan keluarga, bukan skala awam
Pelaksanaan Teknikal dan Cabaran Masa Depan
Pendekatan teknikal laman web tersebut menyerlahkan perangkap biasa dalam prototaip pantas untuk kegunaan awam. Pengakuan pencipta bahawa sistem itu direka untuk pangkalan pengguna kecil yang dipercayai menggariskan cabaran meningkatkan projek ringkas apabila mereka mendapat populariti yang tidak dijangka.
Pengguna juga telah mencatatkan isu praktikal seperti pilihan domain .gg, yang sesetengah pihak mencadangkan mungkin mengehadkan kebolehcarian dalam kalangan demografi tertentu yang lebih biasa dengan alamat .com tradisional.
Situasi OnlyCats menunjukkan betapa cepatnya projek keluarga yang ringkas boleh menghadapi cabaran moderasi yang kompleks apabila terdedah kepada khalayak internet yang lebih luas, menimbulkan persoalan mengenai keberkesanan alat moderasi AI semasa untuk platform kandungan khusus.
Rujukan: OnlyCats