Apa itu Instruction Tuning (Pelatihan Instruksi Model AI)?

Apa itu Instruction Tuning?

Instruction Tuning (atau penalaan instruksi) adalah fase pelatihan lanjutan dalam rekayasa model bahasa besar (Large Language Model) yang mengubah model dasar (base model) menjadi model asisten yang mampu memahami dan menjalankan perintah pengguna secara langsung.

Ketika sebuah model bahasa baru selesai menjalani tahap pra-pelatihan (pre-training), model tersebut hanya bertindak sebagai mesin prediksi kata berikutnya (next-token predictor). Model menyerap miliaran teks dari internet, namun tidak mengerti konsep mematuhi perintah. Jika pengguna memberikan prompt:

"Tuliskan ringkasan dari artikel berikut:"

Sebuah base model yang belum menjalani instruction tuning kemungkinan besar tidak akan membuat ringkasan. Sebaliknya, model mungkin melanjutkan teks dengan:

"1. Soal nomor dua: sebutkan tokoh utama cerita tersebut..." (karena model mengira teks tersebut adalah lembar soal ujian sekolah).

Instruction tuning melatih model untuk mengenali bahwa teks input adalah instruksi yang harus dijawab, bukan kalimat rumpang yang harus diteruskan.

Cara kerja Instruction Tuning

Instruction tuning dilakukan dengan metode Supervised Fine-Tuning (SFT) menggunakan kumpulan data terkurasi berupa pasangan:

$$ ext{Data} = {( ext{Instruksi}, ext{Konteks Tambahan}, ext{Respons Ideal})}$$

Langkah-langkah pelaksanaannya:

1. Penyusunan Dataset Instruksi: Pengembang mengumpulkan ratusan ribu hingga jutaan contoh tugas manusia yang sangat bervariasi:
   • Meringkas artikel (summarization)
   • Menerjemahkan bahasa (translation)
   • Menulis dan memeriksa kode pemrograman (coding)
   • Menjawab pertanyaan logis (question answering)
   • Menulis kreatif (creative writing)
2. Pelatihan Terarah (Fine-Tuning): Bobot model diperbarui menggunakan fungsi kerugian (cross-entropy loss) hanya pada token bagian respons, bukan token instruksinya. Ini mengajarkan model cara memformulasikan jawaban berkualitas tinggi berdasarkan perintah yang diberikan.
3. Generalisasi Nol-Contoh (Zero-Shot Generalization): Keunggulan terbesar dari instruction tuning adalah kemampuannya mentransfer pemahaman perintah ke tugas baru yang belum pernah dilihat model selama pelatihan (zero-shot tasks).

Perbedaan Base Model vs Instruct Model

Karakteristik	Base Model (Pra-Pelatihan)	Instruct / Chat Model (Hasil Instruction Tuning)
Tujuan Utama	Menyelesaikan pola kalimat lanjutan	Memahami niat dan mengeksekusi instruksi pengguna
Contoh Model	Llama-3-8B (base), Mistral-7B (base)	Llama-3-8B-Instruct, Mistral-7B-Instruct
Perilaku Prompt	Cenderung mengulang atau meneruskan teks	Menjawab langsung secara koheren dan membantu
Posisi Pipeline	Langkah ke-1 (Fondasi awal)	Langkah ke-2 (Sebelum alignment lanjutan RLHF/DPO)

Batasan dan salah paham umum

• Bukan akhir dari proses alignment: Instruction tuning membuat model patuh, tetapi belum tentu aman atau sepenuhnya selaras dengan etika manusia. Oleh karena itu, tahap ini biasanya dilanjutkan dengan proses Reinforcement Learning from Human Feedback (RLHF) atau Direct Preference Optimization (DPO) untuk menyaring konten berbahaya.
• Risiko overfitting gaya: Jika dataset instruksi terlalu monoton (misal selalu diawali salam tertentu), model bisa mengalami sycophancy atau menghasilkan jawaban yang terlalu bertele-tele dan kaku.

Rujukan resmi

• Wei et al. (Google Research) — Finetuned Language Models Are Zero-Shot Learners (FLAN): arxiv.org/abs/2109.01652 (Pengecekan: 9 Oktober 2026)
• Ouyang et al. (OpenAI) — Training language models to follow instructions with human feedback (InstructGPT): arxiv.org/abs/2203.02155 (Pengecekan: 9 Oktober 2026)