Apa itu Chain-of-Thought Prompting (CoT)?

Apa itu Chain-of-Thought Prompting?

Chain-of-Thought (CoT) Prompting adalah teknik perancangan instruksi (prompting) dan paradigma penalaran pada model kecerdasan buatan di mana model diarahkan untuk menguraikan tahapan berpikir perantara (intermediate reasoning steps) sebelum memberikan kesimpulan jawaban.

Teknik ini pertama kali didokumentasikan secara ilmiah oleh peneliti Google Brain (Jason Wei dkk.) pada tahun 2022. Dalam pengujian mereka, ketika model bahasa besar diminta langsung menjawab persoalan matematika, logika, atau penalaran multi-tahap, model kerap salah karena langsung menebak kata penutup dengan probabilitas tertinggi. Namun, saat model diinstruksikan menuliskan cara penyelesaian langkah demi langkah, akurasi penalaran meningkat pesat.

Mengapa CoT mampu mendongkrak kemampuan model?

Secara teknis pada arsitektur autoregresif Transformer, setiap kata baru yang dihasilkan model menjadi konteks masukan tambahan (conditioning) bagi kata-kata berikutnya.

Ketika model menuliskan tahapan kalkulasi perantara:

1. Pemberian Waktu Komputasi Tambahan: Jumlah langkah komputasi Transformer secara inheren terikat pada jumlah token yang dihasilkan. Dengan memproduksi token pemikiran secara berurutan, model mendapatkan kesempatan melakukan alur kalkulasi matriks yang lebih dalam sebelum tiba pada angka atau kesimpulan final.
2. Penguraian Masalah Rumit: Persoalan logika yang rumit didekomposisi menjadi sub-masalah kecil yang jauh lebih mudah dipecahkan secara lokal.
3. Koreksi Mandiri di Tingkat Konteks: Jika pada langkah kedua model mencatat angka tertentu, langkah ketiga akan membaca angka tersebut dari konteks yang sudah tercatat, sehingga meminimalkan bias tebak langsung.

Jenis implementasi Chain-of-Thought

• Zero-Shot CoT: Pengguna cukup menambahkan frasa pemantik sederhana di akhir pertanyaan, misalnya: "Mari kita pikirkan langkah demi langkah" (Let's think step by step). Tanpa contoh panduan pun, model otomatis menyusun alur penalaran terstruktur.
• Few-Shot CoT: Pengguna menyertakan 2 atau 3 contoh tanya-jawab di dalam prompt, di mana bagian jawaban sengaja ditulis lengkap dengan narasi pemikiran logisnya.
• Native Reasoning Models (Model Penalaran Bawaan): Model modern seperti OpenAI o1 / o3, Gemini Thinking Series, dan DeepSeek R1 dilatih secara khusus menggunakan pembelajaran penguatan (reinforcement learning) untuk menghasilkan rantai pemikiran internal tersembunyi (thinking process) sebelum menampilkan jawaban akhir.

Batasan dan salah paham umum

• Bukan jaminan bebas kesalahan logika: Jika model melakukan kesalahan premis pada langkah pertama atau kedua, langkah-langkah berikutnya tetap akan dibangun di atas kesalahan tersebut (kesalahan berantai).
• Meningkatkan konsumsi token dan waktu respons (latensi): Menguraikan penalaran membutuhkan puluhan hingga ratusan token keluaran ekstra. Hal ini berdampak langsung pada tagihan biaya output token API serta jeda waktu tunggu pengguna.
• Tidak dibutuhkan untuk tugas faktual sederhana: Meminta model menggunakan Chain-of-Thought untuk pertanyaan ringkas seperti "Apa ibu kota Prancis?" hanya membuang-buang token tanpa memberikan nilai tambah apa pun.

Rujukan resmi

• Wei et al. (Google Research / Brain Team): Chain-of-Thought Prompting Elicits Reasoning in Large Language Models (Makalah perintis resmi, Pengecekan: 30 September 2026, rujukan resmi: arxiv.org/abs/2201.11903).
• Kojima et al. (University of Tokyo / Google Research): Large Language Models are Zero-Shot Reasoners (Perintis teknik "Let's think step by step", Pengecekan: 30 September 2026, rujukan resmi: arxiv.org/abs/2205.11916).
• OpenAI Research: Learning to Reason with LLMs - OpenAI o-series Reasoning Models (Pengecekan: 30 September 2026, rujukan resmi: openai.com/index/learning-to-reason-with-llms/).