Apa itu Output Token (Completion Token)?
Token yang diproduksi dan dikembalikan oleh model kecerdasan buatan sebagai tanggapan atau jawaban atas instruksi yang diberikan.
Apa itu Output Token?
Output token (dalam dokumentasi pengembang sering disebut completion token) adalah seluruh potongan token teks, kode, atau format data yang dihasilkan oleh model kecerdasan buatan sebagai jawaban atas prompt masukan. Pada model penalaran modern (reasoning models seperti seri OpenAI o1/o3 atau DeepSeek-R1), output token juga mencakup token proses berpikir (reasoning tokens / thought tokens) meskipun teks proses berpikir tersebut disembunyikan dari antarmuka akhir pengguna.
Tarif per token keluaran umumnya ditetapkan 3 hingga 5 kali lipat lebih mahal daripada input token. Hal ini dikarenakan proses komputasi generasi teks berlangsung secara sekuensial langkah demi langkah (autoregressive token-by-token generation), di mana prosesor grafis server harus menyelesaikan satu token terlebih dahulu sebelum dapat memprediksi token berikutnya.
Cara kerja generasi Output Token
- Kalkulasi Probabilitas Distribusi: Setelah membaca seluruh input token, model transformer menghitung skor probabilitas (logits) untuk seluruh kosakata token yang tersedia.
- Penyaringan Sampling (Temperature & Top-P): Parameter sampling membatasi dan memilih satu token dengan probabilitas terbaik berdasarkan arahan kebebasan gaya bahasa yang diatur pengguna.
- Pencetakan Autoregresif: Token yang terpilih ditambahkan ke akhir barisan teks, lalu seluruh barisan baru tersebut dihitung kembali untuk menentukan token selanjutnya.
- Penghentian Generasi (Stop Condition): Proses generasi berhenti ketika model menghasilkan token akhir khusus (
<end_of_text>/<|im_end|>), atau ketika panjang teks mencapai parameter batas maksimal token keluaran (max_tokens).
Contoh pemakaian dan perbandingan tarif resmi
Berikut perbandingan tarif resmi output token per 1 juta token (1M tokens) per tanggal pengecekan 26 September 2026:
- OpenAI GPT-4o-mini: Tarif output $0,60 per 1 juta token (Pengecekan: 26 September 2026, rujukan resmi: openai.com/api/pricing/).
- Anthropic Claude 3.5 Haiku: Tarif output $4,00 per 1 juta token (Pengecekan: 26 September 2026, rujukan resmi: anthropic.com/pricing).
- DeepSeek-V3 / DeepSeek-Chat: Tarif output $0,28 per 1 juta token (Pengecekan: 26 September 2026, rujukan resmi: api-docs.deepseek.com/quick_start/pricing).
- DeepSeek-R1: Tarif output $2,19 per 1 juta token, di mana output token mencakup token rantai pemikiran (chain-of-thought) dan teks jawaban akhir.
Batasan dan salah paham umum
- Kecepatan generasi dibatasi arsitektur komputasi: Anda tidak bisa mempercepat respons output secara paralel instan seperti halnya membaca input, karena setiap token keluaran membutuhkan hasil komputasi dari token persis sebelumnya (memory-bandwidth bound).
- Token proses berpikir tetap ditagihkan: Pada model reasoning, jika model memikirkan jawaban selama 2.000 token berpikir lalu merangkumnya menjadi 100 token jawaban singkat, pengguna tetap dikenakan biaya penuh untuk 2.100 output token.
- Batas
max_tokensbukan jaminan teks selesai tuntas: Jika nilaimax_tokensdisetel terlalu kecil (misalnya 100 token), model akan terpotong paksa di tengah kalimat saat batas tersebut tercapai (finish_reason: length).
Rujukan resmi
- OpenAI Documentation: Text Generation and Completion Tokens Guide (Pengecekan: 26 September 2026, tautan resmi: platform.openai.com/docs/guides/text-generation).
- Anthropic Claude API Reference: Messages Output Structure (Pengecekan: 26 September 2026, tautan resmi: docs.anthropic.com/en/api/messages).
- DeepSeek API Documentation: Output & Reasoning Token Accounting (Pengecekan: 26 September 2026, tautan resmi: api-docs.deepseek.com/quick_start/pricing).
Istilah Terkait