Apa itu Input Token (Prompt Token)?
Token yang dikirimkan oleh pengguna ke model kecerdasan buatan, mencakup teks instruksi, riwayat percakapan, lampiran dokumen, dan system prompt.
Apa itu Input Token?
Input token (sering disebut juga prompt token) adalah seluruh pecahan token teks, kode, atau data gambar yang dikirimkan oleh aplikasi pengguna ke server penyedia model kecerdasan buatan untuk diproses. Input token mencakup instruksi perintah pengguna, riwayat percakapan sebelumnya (chat history), teks dari dokumen lampiran, konteks hasil pencarian dokumen (RAG), hingga arahan kepribadian (system prompt).
Dalam struktur penagihan API model bahasa, input token umumnya memiliki tarif harga yang jauh lebih murah dibandingkan output token (berkisar antara sepertiga hingga seperempat dari tarif output) karena server hanya membaca dan menghitung atensi secara paralel, bukan menghasilkan karakter baru secara autoregresif langkah demi langkah.
Cara kerja pemrosesan Input Token
- Penggabungan Seluruh Konteks: Aplikasi membungkus system prompt, riwayat pesan obrolan sebelumnya, dan prompt terbaru pengguna ke dalam satu array pesan terstruktur.
- Tokenisasi Masukan: Server API mengubah seluruh teks masukan menjadi deretan token ID dan menghitung total jumlah token untuk validasi batas jendela konteks (context window).
- Pemeriksaan Cache (Prompt Caching): Jika penyedia mendukung fitur cache dan teks instruksi berulang sudah pernah dikirim sebelumnya, server akan membaca token masukan dari memori kilat (cache hit) untuk mempercepat respon dan memangkas biaya tagihan.
- Komputasi Paralel: Seluruh token masukan diproses secara simultan oleh akselerator grafis (GPU/TPU) untuk membentuk representasi semantik (key-value activation) sebelum kata pertama dihasilkan.
Contoh pemakaian dan perbandingan tarif resmi
Berikut contoh tarif input token per 1 juta token (1M tokens) pada beberapa penyedia resmi per tanggal pengecekan 26 September 2026:
- OpenAI GPT-4o-mini: Biaya input standar $0,15 per 1 juta token (Pengecekan: 26 September 2026, rujukan resmi: openai.com/api/pricing/).
- Anthropic Claude 3.5 Haiku: Biaya input standar $0,80 per 1 juta token (Pengecekan: 26 September 2026, rujukan resmi: anthropic.com/pricing).
- DeepSeek-V3 / DeepSeek-Chat: Biaya input standar cache-miss $0,14 per 1 juta token, dan tarif cache-hit $0,014 per 1 juta token (Pengecekan: 26 September 2026, rujukan resmi: api-docs.deepseek.com/quick_start/pricing).
Batasan dan salah paham umum
- Riwayat obrolan membebani input token terus-menerus: Setiap kali Anda mengirim pesan baru di aplikasi chat AI, seluruh riwayat pesan dari awal percakapan akan dikirim ulang sebagai input token. Tanpa pemangkasan riwayat, konsumsi token membengkak secara eksponensial di setiap putaran tanya-jawab.
- Gambar dan dokumen PDF juga dihitung sebagai input token: Model AI multimodal menghitung setiap lembar gambar beresolusi tinggi setara dengan 800 hingga 1.600 input token tergantung ukuran piksel dan skema pemotongan petak gambar (image patch).
- Input token tidak menghasilkan teks: Input token murni bahan bakar instruksi. Jika Anda mengirim 10.000 input token tetapi meminta jawaban berupa kata "Ya" atau "Tidak", output token yang ditagihkan hanya berjumlah 1 token.
Rujukan resmi
- OpenAI API Pricing Documentation (Pengecekan: 26 September 2026, tautan resmi: openai.com/api/pricing/).
- Anthropic Claude API Models & Pricing Reference (Pengecekan: 26 September 2026, tautan resmi: anthropic.com/pricing).
- DeepSeek Open Platform API Pricing Guide (Pengecekan: 26 September 2026, tautan resmi: api-docs.deepseek.com/quick_start/pricing).
Istilah Terkait