Model Qwen3 Coder 480B daripada Alibaba telah mencipta gelombang dalam komuniti pengekodan AI dengan daya pengeluaran yang sangat pantas iaitu 2,000 token sesaat pada infrastruktur Cerebras. Model ini menyaingi pemimpin industri seperti Claude 4 Sonnet dalam ketepatan pengekodan sambil menyampaikan kelajuan yang tidak pernah ada sebelum ini pada harga yang kompetitif. Walau bagaimanapun, pengguna awal mendapati bahawa daya pengeluaran mentah hanya menceritakan sebahagian daripada kisah prestasi.
Daya Pengeluaran Yang Mengagumkan Bertemu Pemeriksaan Realiti
Walaupun keupayaan 2,000 token sesaat kedengaran revolusioner, ujian komuniti mendedahkan kaveat yang ketara. Walaupun daya pengeluaran yang mengagumkan sebaik sahaja penjanaan bermula, pengguna melaporkan latensi masa-ke-token-pertama yang tinggi yang mengambil beberapa saat untuk setiap panggilan API. Ini mewujudkan kesesakan yang terutamanya mempengaruhi aliran kerja agentik yang memerlukan berbilang panggilan API berurutan.
Kelebihan kelajuan menjadi paling jelas dalam tugas penjanaan kod berterusan. Pembangun boleh menjana 1,000 baris JavaScript dalam hanya 4 saat, berbanding 30 saat pada Gemini 2.5 Flash atau 80 saat pada Claude 4 Sonnet. Untuk permintaan penjanaan kod tunggal yang besar, ini mewakili peningkatan yang mengubah permainan dalam aliran kerja pembangun.
Perbandingan Prestasi
- Qwen3 Coder 480B : 2,000 token/saat, 1,000 baris JavaScript dalam 4 saat
- Gemini 2.5 Flash : 1,000 baris JavaScript dalam 30 saat
- Claude 4 Sonnet : 1,000 baris JavaScript dalam 80 saat
Penetapan Harga Mengganggu Dinamik Pasaran
Struktur harga model ini menyebabkan perbincangan yang ketara dalam komuniti pembangun. Pada 2 dolar Amerika sesejuta token melalui Cerebras secara langsung, ia sudah mengurangkan harga pesaing premium. Walau bagaimanapun, melalui OpenRouter, harga berkesan turun kepada kira-kira 0.3 dolar Amerika sesejuta token input dan 1.2 dolar Amerika sesejuta token output - menjadikannya jauh lebih murah daripada alternatif seperti Gemini 2.5 Pro.
Itu sangat jauh lebih murah sehingga saya tidak akan terkejut jika model berat terbuka mula memakan siang Google/Anthropic/OpenAI.
Untuk sesi pengekodan biasa menggunakan alat seperti Aider, perbezaan kos menjadi bermakna dari masa ke masa. Permintaan biasa dengan 5,000 token input dan 800 token output berharga kira-kira 0.0116 dolar Amerika pada Cerebras berbanding 0.01425 dolar Amerika pada Gemini 2.5 Pro, sambil menyampaikan prestasi pengekodan yang setanding atau lebih baik.
Perbandingan Harga (setiap juta token)
- Cerebras Direct : $2.00 USD input/output
- OpenRouter ( Qwen3 ): $0.30 USD input, $1.20 USD output
- Gemini 2.5 Pro : $1.25 USD input, $10.00 USD output
- Kos permintaan pengekodan biasa: Qwen3 ($0.0116 USD) berbanding Gemini 2.5 Pro ($0.01425 USD)
Penggunaan Tempatan Menunjukkan Harapan
Selain perkhidmatan awan, pembangun sedang bereksperimen dengan penggunaan tempatan versi terkuantisasi. Laporan awal menunjukkan bahawa walaupun versi 4-bit yang berjalan pada perkakasan pengguna seperti Mac M2 32GB menyampaikan prestasi yang mengagumkan, berpotensi mengancam kedudukan pasaran penyedia awan yang mantap.
Gabungan ketersediaan berat-terbuka, prestasi yang kompetitif, dan penetapan harga yang agresif meletakkan Qwen3 Coder sebagai pengganggu yang ketara dalam pasaran pengekodan AI. Walau bagaimanapun, isu latensi tinggi kekal sebagai had utama untuk kes penggunaan tertentu, terutamanya yang memerlukan interaksi API pantas yang biasa dalam ejen pengekodan autonomi.
Rujukan: Qwen3 Coder 480B is Live on Cerebras