Kejuruteraan Konteks Muncul sebagai Kemahiran Kritikal untuk Pembangunan AI, Menggantikan Kejuruteraan Prompt Tradisional

Pasukan Komuniti BigGo
Kejuruteraan Konteks Muncul sebagai Kemahiran Kritikal untuk Pembangunan AI, Menggantikan Kejuruteraan Prompt Tradisional

Komuniti pembangunan AI sedang menyaksikan perubahan ketara dalam cara pembangun mendekati pembinaan ejen AI yang berkesan. Apa yang dahulunya tertumpu kepada merangka prompt yang sempurna kini telah berkembang menjadi sesuatu yang lebih komprehensif: kejuruteraan konteks. Disiplin yang sedang berkembang ini mewakili perubahan asas dalam cara kita berfikir tentang reka bentuk dan pelaksanaan sistem AI.

Konsep ini mendapat perhatian meluas selepas Ketua Pegawai Eksekutif Shopify , Tobi Lutke menerangkannya sebagai seni menyediakan semua konteks untuk tugasan supaya dapat diselesaikan dengan munasabah oleh LLM. Masanya tidak boleh lebih relevan, kerana penyelidik dan pengamal AI sedang mendapati bahawa kebanyakan kegagalan ejen berpunca bukan daripada batasan model, tetapi daripada penyediaan konteks yang tidak mencukupi.

Ilustrasi ini menyerlahkan evolusi pembangunan AI daripada prompting ringkas kepada pendekatan kejuruteraan konteks yang lebih komprehensif
Ilustrasi ini menyerlahkan evolusi pembangunan AI daripada prompting ringkas kepada pendekatan kejuruteraan konteks yang lebih komprehensif

Melampaui Prompt Mudah: Pendekatan Sistem

Kejuruteraan prompt tradisional tertumpu kepada menyempurnakan satu rentetan teks yang dihantar kepada model AI. Kejuruteraan konteks mengambil pandangan yang lebih luas, menganggap konteks sebagai output keseluruhan sistem dan bukannya templat statik. Sistem ini secara dinamik menghimpunkan pelbagai komponen termasuk arahan sistem, sejarah perbualan, memori jangka panjang, maklumat yang diambil daripada pangkalan data, alat yang tersedia, dan definisi output berstruktur.

Perbezaannya menjadi jelas apabila membandingkan demo AI asas dengan sistem yang sedia untuk pengeluaran. Demo mudah mungkin hanya melihat permintaan segera pengguna, menghasilkan respons generik. Sistem yang direkabentuk dengan baik mengumpul maklumat kalendar, komunikasi lepas, butiran kenalan, dan alat yang tersedia sebelum menghasilkan respons yang sesuai mengikut konteks yang terasa semula jadi dan membantu.

Sistem: Rangka kerja komprehensif yang memproses dan mengatur maklumat sebelum menghantarnya kepada model AI, dan bukannya bergantung kepada satu prompt sahaja.

Kejuruteraan Konteks vs Kejuruteraan Prompt

Aspek Kejuruteraan Prompt Kejuruteraan Konteks
Skop Rentetan teks tunggal Output sistem lengkap
Pendekatan Templat statik Pemasangan dinamik
Komponen Arahan sahaja Pelbagai sumber data + alatan
Masa Tetap Adaptif kepada keperluan tugasan
Fokus Perkataan yang sempurna Seni bina maklumat yang tepat

Persamaan Manusia dalam Pemprosesan Maklumat

Prinsip di sebalik kejuruteraan konteks mencerminkan cara manusia memproses maklumat dan membuat keputusan. Sama seperti pekerja manusia berprestasi lebih baik apabila diberikan maklumat latar belakang yang komprehensif, keperluan yang jelas, dan alat yang sesuai, sistem AI cemerlang apabila diberikan konteks yang kaya dan berstruktur dengan baik. Persamaan ini telah menyebabkan sesetengah pembangun menggunakan heuristik dengan bertanya sama ada maklumat yang diberikan akan mencukupi untuk manusia menyelesaikan tugasan yang sama.

Perbincangan komuniti mendedahkan bahawa pelaksanaan AI yang berjaya sering melibatkan kerjasama merentas fungsi, serupa dengan pembangunan perisian tradisional. Pasukan mesti memahami keperluan perniagaan, menentukan output yang dijangkakan, dan menstruktur maklumat dengan sewajarnya - kemahiran yang melangkaui pengetahuan teknikal AI.

Cabaran Penilaian dan Pengulangan

Satu aspek kritikal yang muncul daripada maklum balas komuniti ialah kepentingan penilaian sistematik. Tidak seperti pembangunan perisian tradisional di mana fungsi boleh diuji secara deterministik, sistem AI memerlukan penilaian berterusan terhadap senario dunia sebenar. Sifat tidak deterministik model bahasa bermakna bahawa walaupun dengan kejuruteraan konteks yang sempurna, hasil boleh berbeza-beza.

Ketidakpastian ini telah mencetuskan perdebatan tentang sama ada kejuruteraan konteks benar-benar berbeza daripada kejuruteraan prompt lanjutan. Ada yang berpendapat bahawa memandangkan format yang betul dan masa yang tepat sebahagian besarnya masih tidak ditentukan, pembangun masih pada asasnya bereksperimen dengan pendekatan berbeza sehingga mereka menemui apa yang berkesan.

Apabila format 'betul' dan masa 'betul' pada asasnya, dan mungkin juga semestinya, tidak ditentukan, bukankah anda masih mencari penyelesaian 'ajaib'?

Implikasi Masa Depan dan Penggunaan Industri

Peralihan ke arah kejuruteraan konteks mencerminkan pengiktirafan industri AI yang semakin matang bahawa membina sistem AI yang boleh dipercayai memerlukan lebih daripada sekadar model yang lebih baik. Ia menuntut pendekatan sistematik kepada seni bina maklumat, integrasi alat, dan perhimpunan kandungan dinamik. Walau bagaimanapun, sesetengah ahli komuniti mempersoalkan sama ada kerumitan ini menunjukkan bahawa sistem AI semasa masih memerlukan terlalu banyak bimbingan manusia untuk benar-benar berkuasa.

Apabila tetingkap konteks berkembang dan model menjadi lebih berkebolehan, cabaran asas kekal: menyediakan sistem AI dengan maklumat yang tepat pada masa yang tepat. Walaupun alat dan teknik terus berkembang, prinsip teras kurasi maklumat yang berfikiran nampaknya akan kekal menjadi pusat kepada pembangunan AI untuk masa hadapan yang boleh dijangka.

Kemunculan kejuruteraan konteks sebagai disiplin yang berbeza menandakan bahawa industri AI sedang bergerak melampaui fasa eksperimen ke arah pendekatan yang lebih berstruktur dan berfokuskan kejuruteraan untuk membina sistem AI yang boleh dipercayai.

Rujukan: The New Skill in AI is Not Prompting, It's Context Engineering