Bekas pengarah AI Tesla dan pengasas bersama OpenAI, Andrej Karpathy, baru-baru ini menyampaikan ceramah di Y Combinator memperkenalkan konsepnya mengenai Software 3.0 - paradigma pengaturcaraan baharu di mana model bahasa besar (LLM) bertindak sebagai komputer yang boleh diprogramkan melalui bahasa semula jadi dan bukannya kod tradisional. Ceramah tersebut telah menjana perbincangan yang ketara dalam komuniti teknologi mengenai masa depan pembangunan perisian dan integrasi AI.
Evolusi dari Kod kepada Pengaturcaraan Bahasa Semula Jadi
Karpathy menggariskan tiga era berbeza dalam pembangunan perisian. Software 1.0 mewakili pengaturcaraan tradisional di mana manusia menulis arahan eksplisit dalam bahasa pengaturcaraan. Software 2.0, yang beliau perkenalkan sebelum ini pada tahun 2017, merujuk kepada rangkaian neural di mana kod sebenarnya adalah pemberat terlatih model tersebut dan bukannya arahan yang ditulis oleh manusia. Kini, Software 3.0 membawa konsep ini lebih jauh dengan menjadikan LLM boleh diprogramkan melalui gesaan bahasa semula jadi, pada dasarnya menjadikan bahasa Inggeris sebagai bahasa pengaturcaraan.
Konsep ini diambil daripada pengalaman Karpathy di Tesla, di mana beliau memerhati rangkaian neural secara beransur-ansur menggantikan kod C++ yang ditulis secara manual dalam sistem Autopilot. Apabila rangkaian neural menjadi lebih berkebolehan, ia menyerap fungsi yang sebelum ini dilaksanakan dalam kod tradisional, membawa kepada pemadaman beribu-ribu baris perisian yang ditulis oleh manusia.
Garis Masa Evolusi Perisian Menurut Karpathy:
- Perisian 1.0: Pengaturcaraan tradisional dengan kod yang ditulis oleh manusia dalam bahasa pengaturcaraan
- Perisian 2.0 (2017): Rangkaian neural di mana pemberat yang dilatih bertindak sebagai "kod"
- Perisian 3.0 (2024): LLM yang boleh diprogramkan melalui bahasa semula jadi, menjadikan bahasa Inggeris sebagai antara muka pengaturcaraan
Reaksi Komuniti Berkisar dari Teruja hingga Skeptikal
Respons komuniti teknologi adalah bercampur-campur, dengan sesetengah pihak menerima visi tersebut manakala yang lain mempersoalkan kepraktisannya. Penyokong melihat potensi untuk pembangunan perisian yang dipermudahkan secara dramatik, di mana pengguna boleh berinteraksi secara langsung dengan sistem AI dan bukannya menavigasi antara muka tradisional yang kompleks. Pengkritik bimbang mengenai kebolehpercayaan, keselamatan, dan kehilangan pengkomputeran deterministik.
Satu kebimbangan utama yang dibangkitkan dalam perbincangan tertumpu pada cabaran asas untuk beralih daripada sistem deterministik kepada probabilistik. Perisian tradisional menghasilkan keputusan yang boleh diramal dan berulang, manakala sistem berasaskan LLM boleh menjadi tidak dapat diramal dan mungkin menghasilkan output yang berbeza untuk input yang sama. Ini menimbulkan persoalan mengenai bagaimana untuk membina sistem yang boleh dipercayai dan sedia untuk produksi menggunakan teknologi ini.
Kebimbangan Teknikal Utama yang Dibangkitkan oleh Komuniti:
- Kebolehpercayaan: Peralihan daripada sistem deterministik kepada probabilistik
- Keselamatan: LLM terdedah kepada suntikan gesaan dan kebocoran data
- Ekonomi: Perkhidmatan LLM semasa beroperasi dengan kerugian, mempersoalkan kemampanan jangka panjang
- Penyelenggaraan: AI bergelut dengan penyahpepijatan, pengoptimuman, dan penggunaan pengeluaran
- Kawalan Kualiti: Kesukaran dalam pengesahan dan pengujian penyelesaian yang dijana AI
Cabaran Infrastruktur dan Realiti Ekonomi
Perbincangan juga menyerlahkan kebimbangan praktikal mengenai kemampanan ekonomi sistem berkuasa LLM. Banyak perkhidmatan LLM semasa beroperasi dengan kerugian, disubsidi oleh pembiayaan modal teroka. Ini menimbulkan persoalan mengenai daya maju jangka panjang dan sama ada model seperti utiliti yang dibayangkan oleh Karpathy sebenarnya boleh mampan dari segi ekonomi.
Betulkan saya jika saya salah di sini, tetapi bukankah setiap LLM yang berguna sedang beroperasi dengan kerugian?
Komuniti mencatatkan persamaan dengan kitaran teknologi sebelum ini di mana syarikat pada mulanya mensubsidi perkhidmatan untuk membina pergantungan pengguna sebelum menaikkan harga sebaik sahaja kos pertukaran menjadi menghalang.
Pelaksanaan Praktikal dan Had Semasa
Walaupun visi yang hebat, ramai pembangun menekankan jurang antara teori dan amalan. Alat pengekodan AI semasa seperti GitHub Copilot dan Cursor menunjukkan harapan untuk tugas-tugas tertentu tetapi masih memerlukan pengawasan dan campur tangan manusia yang ketara. 10% terakhir mana-mana projek perisian - nyahpepijat, pengoptimuman, dan pelaksanaan produksi - kekal mencabar untuk sistem AI.
Beberapa ahli komuniti berkongsi pengalaman di mana alat AI cemerlang dalam menghasilkan kod awal tetapi bergelut dengan nyahpepijat yang kompleks, integrasi sistem, dan mengekalkan kualiti kod dari masa ke masa. Ini menunjukkan bahawa walaupun AI mungkin menambah aliran kerja pengaturcaraan, sistem Software 3.0 yang sepenuhnya autonomi mungkin masih bertahun-tahun lagi daripada pelaksanaan praktikal.
Isu kualiti transkrip daripada ceramah asal - secara ironinya ditranskrip menggunakan teknologi ucapan-ke-teks AI - berfungsi sebagai peringatan yang tidak disengajakan mengenai had AI semasa, dengan Karpathy sendiri mencatatkan banyak ralat yang agak teruk dalam transkrip ini.
Walaupun visi Software 3.0 Karpathy mempersembahkan masa depan yang menarik untuk pengaturcaraan, laluan daripada keupayaan AI semasa kepada pembangunan perisian yang sepenuhnya didorong oleh bahasa semula jadi masih tidak jelas. Konsep tersebut sudah tentu mencetuskan perbualan penting mengenai hala tuju kejuruteraan perisian, walaupun industri terus bergelut dengan mengintegrasikan alat AI sedia ada secara berkesan ke dalam aliran kerja pembangunan.
Rujukan: Ceramah YC Andrej Karpathy