Komuniti teknologi kini dilanda debat hangat mengenai sifat sebenar bekerja dengan Large Language Model ( LLM ). Satu konsep baharu, kejuruteraan konteks, telah muncul dengan mencadangkan pendekatan sistematik untuk membimbing tingkah laku AI. Walaupun sesetengah pihak menganggapnya sebagai evolusi yang diperlukan, yang lain mempersoalkan sama ada ia layak digelar kejuruteraan.
Kebangkitan Kejuruteraan Konteks
Idea teras di sebalik kejuruteraan konteks ialah pertukaran minda. Daripada memperlakukan LLM sebagai oracle misteri yang bertindak balas terhadap promp yang dirangka dengan teliti—amalan yang sering dipandang rendah sebagai kejuruteraan promp—penyokong berhujah kita harus memperlakukannya seperti penganalisis yang mahir. Ini bermakna membina keseluruhan tetingkap konteks dengan sengaja, memberikan model bukan sekadar soalan, tetapi juga dokumen berkaitan, definisi alat, dan arahan penaakulan langkah demi langkah untuk mencapai jawapan yang boleh dipercayai. Pendekatan ini memanfaatkan teknik seperti Retrieval-Augmented Generation ( RAG ) untuk menarik data luaran dan panggilan alat untuk melakukan pengiraan tepat, bergerak melampaui data latihan statik model.
- LLM ( Large Language Model ): Sejenis kecerdasan buatan yang dilatih pada jumlah teks yang besar untuk memahami dan menjana bahasa seperti manusia.
- Tetingkap Konteks: Bilangan token (kepingan perkataan) tetap yang boleh dipertimbangkan oleh LLM pada satu masa ketika menjana respons.
Corak "Kejuruteraan Konteks" Yang Biasa:
- RAG (Retrieval-Augmented Generation): Menyuntik dokumen luaran yang relevan ke dalam konteks.
- Tool Calling: Menentukan fungsi luaran (contohnya, kalkulator) untuk digunakan oleh LLM.
- Structured Output: Memaksa LLM untuk membalas dalam format tertentu seperti JSON.
- Chain of Thought / Reflexion: Menggalakkan LLM untuk menunjukkan langkah-langkah penaakulannya sebelum menjawab.
- Context Compression: Merumuskan perbualan yang panjang untuk menjimatkan ruang dalam tetingkap konteks.
Komuniti Terbahagi Mengenai Definisi
Tindak balas terhadap perangkaan ini telah terbahagi dengan ketara. Sebahagian besar komuniti amat ragu-ragu untuk melabelkan amalan ini sebagai kejuruteraan. Pengkritik berhujah bahawa tanpa teori yang kukuh dan boleh diramalkan tentang bagaimana LLM memproses konteks, kerja ini kekal lebih kepada seni atau kraf. Mereka menegaskan bahawa tingkah laku model boleh berubah secara tidak dijangka, menjadikan sistem yang dibina berdasarkan prinsip ini rapuh dan sukar disahkan secara formal.
Tiada yang tepat tentang membentuk promp dan konteks—ia hanyalah kraf... Saya benar-benar harap kita berhenti menyalahgunakan istilah kejuruteraan dalam usaha terdesak untuk memuaskan ego sendiri.
Sentimen ini menggambarkan kebimbangan lebih luas bahawa bidang ini mengutamakan terminologi yang mengagumkan berbanding metodologi berasaskan bukti yang ketat. Para skeptik menuntut faedah terukur dan keputusan yang boleh dihasilkan semula, dengan merasakan pendekatan semasa sama seperti membina jambatan ketika tiada siapa benar-benar tahu kekuatan keluli.
Mempertahankan Mindset Kejuruteraan
Sebagai balasan, pembela istilah tersebut menunjuk kepada mekanik asas. Mereka menyatakan bahawa banyak teknik dikumpulkan di bawah kejuruteraan konteks, seperti RAG dan output berstruktur, telah dikaji dengan teliti dan mempunyai pelaksanaan yang boleh diuji dan ditanda aras. Hujahnya ialah kejuruteraan terletak bukan pada ketidakramalan LLM itu sendiri, tetapi dalam reka bentuk perisian sistem yang mengelilinginya secara sengaja dan sistematik. Dengan menggunakan corak reka bentuk perisian yang terbukti—seperti komposisi dan suntikan kebergantungan—kepada pembinaan konteks, pemaju boleh mencipta aplikasi AI yang lebih modular, boleh diuji dan dikekalkan. Perspektif ini merangka LLM sebagai satu komponen dalam sistem yang lebih besar dan direka bentuk.
Hasil Pendapatan Box Office UK yang Dilaporkan (Contoh daripada Artikel):
- Sehingga 2018 (Data Latihan Model): ~£26 juta (GBP) seminggu
- Untuk 2024 (Melalui Kejuruteraan Konteks dengan data semasa): £139.8 juta (GBP) jumlah hasil tahunan, dikira kepada purata ~£2.69 juta seminggu.
 |
|---|
| Ilustrasi kerja analitikal yang sengaja, mewakili reka bentuk sistematik yang menyokong kejuruteraan sistem AI |
Laluan ke Hadapan untuk Pembangunan AI
Debat ini akhirnya menyerlahkan kesakitan yang berkembang dalam bidang pembangunan aplikasi AI. Apabila LLM disepadukan ke dalam sistem kritikal, keperluan untuk kebolehpercayaan dan ketegasan menjadi paling penting. Sama ada seseorang menyebutnya kejuruteraan konteks atau kraf konteks, cabaran terasnya tetap sama: beralih dari cuba-jaya kepada pendekatan yang lebih berdisiplin dan sistematik. Tumpuan komuniti terhadap terminologi ini mencerminkan keinginan lebih mendalam untuk mewujudkan amalan terbaik yang dapat memastikan penyebaran AI yang bertanggungjawab dan berkesan. Penyelesaian debat ini kemungkinan besar akan membentuk bagaimana pasukan pembangunan distruktur dan bagaimana sistem AI dibina untuk tahun-tahun akan datang.
Rujukan: Context engineering