Fine-Tuning Asas: Ajar AI Ikut Format Kerja Anda

Model AI hari ini sudah pandai bercakap. Masalahnya, dia bercakap dengan cara dia, bukan cara anda. Minta jawapan ringkas seperti kerani kaunter, dia bagi esei tiga perenggan. Minta format pesanan yang tetap, dia bagi ayat cantik yang berubah-ubah setiap kali. Di situlah istilah fine-tuning atau penalaan halus masuk.

Fine-tuning bermaksud anda ambil model yang sudah dilatih besar, kemudian latih sambung sedikit menggunakan contoh anda sendiri. Anda tidak bina model dari kosong. Panduan Google Cloud dan Databricks menjelaskan perkara sama: latihan tambahan ini melaraskan parameter dalaman model supaya tingkah laku dalam contoh tadi menjadi kebiasaan. Model masih tahu bahasa dan pengetahuan umum; yang berubah ialah cara dia menjawab.

Ini bahagian yang paling kerap disalah faham. Fine-tuning bukan cara memasukkan dokumen syarikat ke dalam AI. Fakta yang ditanam dalam parameter tidak boleh dipetik sumbernya, tidak boleh dikemas kini satu baris, dan tidak boleh disemak asalnya. Kalau keperluan anda ialah AI menjawab berdasarkan harga atau polisi terkini, yang anda perlukan ialah RAG, iaitu carian dokumen masa nyata. Fine-tuning pula sesuai untuk tingkah laku: susunan format, nada, panjang jawapan, dan cara menolak permintaan di luar bidang.

Tanda-tanda kerja anda memang calon fine-tuning:
- Output mesti ikut templat yang sama setiap kali, contohnya baris pesanan atau medan tetap.
- Anda mahu satu nada yang konsisten, bukan jawapan yang berubah gaya.
- Tugas itu sempit dan berulang pada volum tinggi.
- Fakta yang terlibat jarang berubah, jadi tidak perlu dikemas kini setiap minggu.

Titik mula yang munasabah ialah 50 hingga 100 contoh yang betul-betul kemas. Dokumentasi OpenAI menyatakan peningkatan biasanya mula kelihatan pada julat itu, dan kalau 50 contoh pun tidak memberi kesan, masalahnya mungkin pada tugas atau pada prompt yang perlu difikir semula, bukan pada jumlah data. Dua ratus contoh konsisten lebih berguna daripada lima ribu contoh bercanggah. Format semasa latihan juga mesti sama dengan format semasa digunakan; beza sedikit sahaja, hasilnya merosot secara senyap. Sediakan set ujian yang model tidak pernah nampak, kalau tidak anda hanya menipu diri sendiri.

Melatih semula semua parameter memang berat. Kaedah LoRA membekukan model asas dan hanya melatih matriks kecil di sisinya. Menurut dokumentasi Hugging Face, parameter yang dilatih jatuh jauh lebih kecil, hasil akhirnya fail penyesuai kecil, dan prestasinya hampir setara untuk banyak tugas. Sebab itu satu GPU sederhana pun cukup untuk percubaan pertama.

Contoh dekat rumah: homestay tiga bilik. Setiap hari anda taip balas WhatsApp yang hampir sama tentang tarikh kosong, kadar semalam dan waktu daftar masuk. Anda mahu AI keluarkan jawapan dalam susunan tetap: status bilik, kadar, kemudian satu soalan susulan. Prompt yang baik sudah boleh buat sebahagian besar kerja ini. Tetapi kalau susunan itu terlepas dua daripada sepuluh kali pada volum tinggi, fine-tuning dengan 60 jawapan terbaik anda akan lebih tekal.

Kedai kecil pula: pesanan masuk dalam ayat bebas, contohnya dua roti canai, satu teh tarik kurang manis, ambil sendiri petang. Anda mahu semuanya bertukar menjadi baris pesanan berstruktur untuk sistem kedai. Ini tugas penukaran format yang sempit dan berulang, iaitu calon yang sesuai.

Langkah asas yang selamat:
1. Cuba prompt dan tiga hingga lima contoh few-shot dahulu.
2. Kumpul 50 hingga 100 pasangan arahan dan jawapan yang anda sendiri sanggup pertahankan.
3. Tulis semuanya dalam format yang sama seperti yang akan digunakan nanti, termasuk system prompt.
4. Asingkan kira-kira 20 peratus contoh sebagai set ujian dan jangan latih atasnya.
5. Latih LoRA pada model kecil, atau guna perkhidmatan fine-tuning penyedia API.
6. Bandingkan jawapan model asal dan model yang dilatih pada soalan ujian yang sama, bukan pada contoh latihan.
7. Pantau dalam penggunaan sebenar dan kumpul kes yang gagal untuk pusingan seterusnya.

Untuk kerja Bahasa Melayu, jangan terus melompat ke latihan. Model tempatan seperti ILMU dilatih dari kosong dan kemudian ditala halus atas pasangan arahan dan jawapan yang mencerminkan kehendak tempatan. Namun dokumentasi ILMU menasihatkan supaya anda menguji pada data sendiri, menetapkan bahasa dalam system prompt dan memberi satu dua contoh BM, kerana hasil formal dan santai boleh berbeza jauh.

Satu peringatan jujur: fine-tuning bukan penawar halusinasi. ILMU sendiri menyenaraikan halusinasi dan penaakulan logik kompleks sebagai had yang masih ada. Model yang dilatih atas data anda boleh bercakap dalam gaya anda dengan sangat yakin tentang perkara yang tidak pernah wujud. Sebab itu semakan manusia dan pengesahan fakta masih perlu, terutama untuk harga, ketersediaan dan polisi.

Kesimpulannya, fine-tuning ialah alat mengajar tabiat, bukan menyimpan maklumat. Urutannya: betulkan prompt, tambah carian dokumen jika pengetahuan berubah, dan hanya bila tingkah laku masih lari barulah latih model dengan contoh sendiri.

Anda pembantu tempahan homestay. Tukar setiap mesej pelanggan kepada tepat tiga baris, tiada ayat lain:
STATUS: (kosong / penuh / perlu semak)
KADAR: (RM malam, atau "tanya pengurus" jika tiada dalam mesej)
SUSULAN: (satu soalan pendek)
Jika mesej tiada tarikh, letak STATUS: perlu semak dan tanya tarikh dalam SUSULAN.