Semasa industri AI global bergelut dengan permintaan pengiraan yang melonjak dan pengagihan sumber yang tidak cekap, satu penyelesaian berasaskan perisian baharu muncul yang boleh mengubah asas bagaimana kita menggunakan perkakasan sedia ada. Huawei, dalam kerjasama dengan institusi akademik terkemuka, telah melancarkan Flex:ai, teknologi bekas sumber terbuka yang direka untuk menangani masalah kuasa pengiraan yang terbuang. Langkah strategik ini mengalihkan landskap persaingan daripada hanya membina cip yang lebih berkuasa kepada mengoptimumkan bagaimana setiap unit keupayaan pemprosesan sedia ada digunakan.
Pusingan Strategik daripada Perkakasan kepada Perkakasan
Industri AI menghadapi cabaran paradoks: sementara permintaan untuk kuasa pengiraan melambung tinggi, kadar penggunaan GPU dan NPU semasa hanya berada pada 30-40%. Flex:ai Huawei mewakili perubahan asas dalam menangani ketidakcekapan ini, beralih daripada "perlumbaan senjata perkakasan" tradisional kepada memberi tumpuan kepada pengoptimuman perisian. Teknologi bekas ini bertindak sebagai "penghantar super" canggih yang boleh mengurus dan menyelaras sumber pengiraan pelbagai vendor dengan bijak, termasuk GPU Nvidia, cip Ascend Huawei sendiri, dan pemproses pihak ketiga yang lain. Dengan mewujudkan lapisan pengurusan bersepadu, sistem ini memastikan aset pengiraan yang mahal tidak lagi terbiar sementara proses lain menunggu sumber yang tersedia.
Penambahbaikan Prestasi
- Peningkatan Purata Penggunaan: 30% penambahbaikan dalam penggunaan sumber pengiraan
- Peruntukan Sumber: Membolehkan pelbagai beban kerja AI berjalan serentak pada perkakasan tunggal
- Kecekapan Infrastruktur: Berpotensi mengurangkan keperluan pelayan sebanyak satu pertiga untuk output yang setara
- Skop Aplikasi: Berkesan untuk kedua-dua keperluan pengiraan model latihan/penyimpulan kecil dan besar
Tiga Terobosan Teknikal Teras
Keberkesanan teknologi ini berpunca daripada tiga pendekatan inovatif yang dibangunkan melalui perkongsian akademik. Melalui kerjasama dengan Shanghai Jiao Tong University, Huawei mencipta rangka kerja pengumpulan XPU yang membolehkan kad GPU atau NPU tunggal dipartisi kepada beberapa unit pengiraan maya dengan ketepatan yang luar biasa sehingga 10%. Pendekatan "satu kad menjadi banyak" ini membolehkan beberapa beban kerja AI berjalan serentak pada perkakasan yang secara tradisinya dikhaskan untuk satu tugas sahaja. Sementara itu, perkongsian dengan Xiamen University menghasilkan teknologi maya silang nod yang mengagregatkan sumber pengiraan terbiar merentasi seluruh kelompok, membentuk "kolam pengiraan" kongsi yang boleh diakses walaupun oleh pelayan serba guna yang tidak mempunyai pemproses AI khusus. Akhir sekali, pembangunan bersama dengan Xi'an Jiaotong University menghasilkan penyusun pintar Hi Scheduler, yang secara automatik memadankan beban kerja dengan sumber yang sesuai berdasarkan keutamaan, keperluan pengiraan, dan beban sistem semasa.
Key Technical Features of Flex:ai
- XPU Pooling Framework: Partitions single GPU/NPU cards into virtual units with 10% granularity
- Cross-Node Virtualization: Aggregates idle compute resources across server clusters
- Hi Scheduler: Intelligent orchestrator that matches workloads with optimal resources
- Platform Compatibility: Works with Kubernetes container orchestration systems
- Hardware Support: Compatible with Nvidia GPUs, Huawei Ascend NPUs, and third-party processors
Mengubah Ekonomi dan Aksesibiliti Industri
Implikasi praktikal lompatan kecekapan ini adalah ketara untuk perniagaan yang melaksanakan penyelesaian AI. Organisasi berpotensi mencapai output pengiraan yang sama dengan pelaburan perkakasan yang berkurangan dengan ketara – apa yang sebelum ini memerlukan tiga pelayan kini mungkin boleh dicapai dengan dua. Kesan pendemokrasian ini menurunkan halangan kemasukan untuk pembangunan AI, terutamanya untuk perusahaan kecil dan sederhana yang bergelut dengan kos infrastruktur pengiraan yang tinggi. Pendekatan teknologi yang tidak memihak kepada vendor juga memberikan perniagaan lebih fleksibiliti dalam keputusan perolehan perkakasan, mengurangkan kebergantungan kepada mana-mana pengeluar cip tunggal dan mewujudkan pasaran yang lebih kompetitif.
Development Partnerships
- Shanghai Jiao Tong University: XPU pooling framework and resource partitioning technology
- Xiamen University: Cross-node virtualization and remote resource access capabilities
- Xi'an Jiaotong University: Hi Scheduler intelligent workload-resource matching system
Era Pengiraan Ditakrifkan Perisian yang Muncul
Inisiatif Huawei menandakan peralihan industri yang lebih luas ke arah pengiraan ditakrifkan perisian, di mana kecekapan sistem menjadi sama penting dengan prestasi perkakasan mentalah. Evolusi ini mencerminkan peralihan industri telefon pintar daripada pertandingan helaian spec kepada pengoptimuman pengalaman pengguna. Apabila perkakasan pengiraan mencapai dataran tinggi prestasi tertentu, sempadan seterusnya untuk kemajuan terletak pada pengurusan sumber dan penyelarasan sistem yang lebih bijak. Untuk pembangunan daya produktif berkualiti baru, pendekatan ini menawarkan laluan untuk meningkatkan produktiviti faktor total melalui pengoptimuman pintar dan bukannya pengumpulan sumber semata-mata.
Strategi Sumber Terbuka dan Implikasi Masa Depan
Dengan menjadikan Flex:ai sumber terbuka, Huawei bertujuan untuk mempercepatkan penerimaan dan pemiawaian industri terhadap amalan pengiraan cekap. Pendekatan kolaboratif ini menggalakkan inovasi global sambil mewujudkan Huawei sebagai pemimpin pemikiran dalam kecekapan pengiraan. Masa ini amat signifikan memandangkan perniagaan di seluruh dunia menghadapi tekanan yang semakin meningkat untuk mengimbangi cita-cita AI dengan matlamat kelestarian dan kekangan kos. Apabila teknologi ini matang, kita boleh menjangkakan untuk melihat model perniagaan baharu muncul dalam operasi pusat data dan pasaran sewaan pengiraan, di mana pembekal perkhidmatan boleh menawarkan lebih banyak kapasiti tanpa pelaburan perkakasan tambahan.