MiniMax telah mengeluarkan model M1 mereka, sebuah model penaakulan berparameter 456 bilion yang mencetuskan perbincangan hangat tentang apa yang sebenarnya diperlukan untuk menjalankan AI canggih secara tempatan. Walaupun syarikat itu mendakwa ia adalah model penaakulan hibrid-perhatian berat-terbuka pertama di dunia, komuniti lebih tertumpu kepada soalan praktikal: adakah anda benar-benar memerlukan persediaan bernilai suku juta dolar untuk menggunakannya?
Spesifikasi Utama MiniMax-M1
- Jumlah Parameter: 456 bilion
- Parameter Aktif: 45.9 bilion setiap token (seni bina MoE)
- Panjang Konteks: 1 juta token (8x lebih besar daripada DeepSeek R1)
- Seni Bina: Perhatian hibrid (87.5% linear + 12.5% softmax)
- Kos Latihan: $534,700 USD untuk bahagian RL (512 GPU H800, 3 minggu)
- Dakwaan Kecekapan: 25% daripada FLOPs DeepSeek R1 pada penjanaan 100K token
Perdebatan $250K lwn $8.5K
Cadangan perkakasan awal mencadangkan pengguna memerlukan 8x GPU H200 dengan memori 141GB, berjumlah sekitar 250,000 dolar Amerika. Tanda harga yang mengejutkan ini segera menarik perhatian komuniti, tetapi tidak semua orang bersetuju ia perlu. Sesetengah pengguna berhujah bahawa Mac Studio dengan memori 512GB, berharga sekitar 8,500 dolar Amerika, boleh mengendalikan model tersebut dengan baik menggunakan teknik pengkuantuman yang betul.
Perselisihan tertumpu pada pengkuantuman model - teknik yang mengurangkan ketepatan berat model untuk menjimatkan memori. Walaupun sesetengah ahli komuniti melaporkan bahawa pengkuantuman Q8 mengekalkan prestasi yang hampir sama dan Q4 menunjukkan penurunan kualiti yang boleh diukur tetapi boleh diterima, yang lain kekal ragu-ragu tentang model yang dikuantum secara berat berprestasi sebaik rakan sejawat ketepatan penuh mereka.
Perbandingan Keperluan Perkakasan
| Persediaan | Kos (USD) | Memori | Kes Penggunaan |
|---|---|---|---|
| 8x H200 GPUs | $250,000 | 141GB setiap satu | Inferens ketepatan penuh |
| Mac Studio | $8,500 | 512GB bersepadu | Inferens terkuantisasi |
| Pilihan kuantisasi | - | Q8: ~tiada kehilangan kualiti, Q4: kehilangan boleh diukur tetapi boleh diterima | Penggunaan kos efektif |
Lightning Attention dan Dakwaan Kecekapan
Pendekatan teknikal MiniMax menggabungkan apa yang mereka panggil lightning attention dengan seni bina hibrid Mixture-of-Experts. Model ini menggunakan 87.5% perhatian linear dan 12.5% perhatian softmax tradisional, yang didakwa syarikat membolehkan penskalaan cekap semasa inferens. Mereka melaporkan bahawa model mereka menggunakan hanya 25% daripada operasi pengiraan berbanding DeepSeek R1 apabila menjana 100,000 token.
Model ini menyokong panjang konteks 1 juta token yang mengagumkan - lapan kali lebih besar daripada tetingkap konteks DeepSeek R1. Keupayaan konteks lanjutan ini, digabungkan dengan mekanisme perhatian mereka, meletakkan model untuk tugas kompleks yang memerlukan pemprosesan input yang luas.
Linear attention: Mekanisme perhatian yang dipermudahkan yang menggunakan bank memori bersaiz tetap bukannya mengira perhatian merentas semua token sebelumnya, menjadikannya lebih cekap untuk jujukan panjang.
Kos Latihan dan Soalan Geografi
Mungkin yang paling menarik ialah dakwaan MiniMax melatih bahagian pembelajaran pengukuhan hanya dengan 534,700 dolar Amerika menggunakan 512 GPU H800 selama tiga minggu. Kos latihan yang agak sederhana ini telah menimbulkan keraguan dalam komuniti, dengan sesetengahnya tertanya-tanya tentang infrastruktur dan kaedah yang digunakan untuk mencapai kecekapan sedemikian.
Identiti geografi syarikat juga telah menjadi titik perbincangan. Walaupun profil LinkedIn mereka menyenaraikan Singapura sebagai pangkalan mereka, dan mereka mengendalikan operasi antarabangsa melalui entiti Singapura, syarikat teras nampaknya berpangkalan di Shanghai. Kekaburan geografi ini, digabungkan dengan pencapaian teknikal mereka yang mengagumkan dan rancangan IPO yang akan datang di Hong Kong, telah menambah satu lagi lapisan intrik kepada cerita mereka.
Pencapaian Prestasi berbanding Pesaing
| Kategori | MiniMax-M1-80K | DeepSeek-R1-0528 | Qwen3-235B |
|---|---|---|---|
| AIME 2024 | 86.0 | 91.4 | 85.7 |
| SWE-bench Verified | 56.0 | 57.6 | 34.4 |
| Long Context (128k) | 73.4 | 51.5 | 27.7 |
| TAU-bench (airline) | 62.0 | 53.5 | 34.7 |
Tebal menunjukkan prestasi terbaik dalam kategori
Semakan Realiti Prestasi
Walaupun terdapat perdebatan kos perkakasan, prestasi penanda aras MiniMax-M1 menceritakan kisah yang bercampur-baur. Walaupun ia cemerlang dalam tugas konteks panjang dan menunjukkan prestasi yang kuat dalam penanda aras kejuruteraan perisian seperti SWE-bench Verified, ia ketinggalan di belakang pesaing seperti DeepSeek-R1-0528 dalam beberapa bidang utama termasuk matematik dan tugas penaakulan am.
Kekuatan model nampaknya terletak pada aplikasi khusus dan bukannya penaakulan tujuan umum, yang mungkin menjelaskan mengapa perdebatan keperluan perkakasan begitu penting - pengguna ingin tahu sama ada pelaburan itu berbaloi untuk kes penggunaan khusus mereka.
Ketika komuniti AI terus menuju ke arah penggunaan model tempatan, MiniMax-M1 mewakili kedua-dua janji dan cabaran praktikal menjalankan sistem AI yang canggih di luar persekitaran awan. Sama ada ia memerlukan bajet pusat data atau boleh dijalankan pada perkakasan pengguna mewah mungkin akhirnya menentukan penggunaan dunia sebenar.
Rujukan: MiniMax-M1