Apa itu Input Token?

Apa itu input token?

Input token (sering disebut juga prompt token) adalah seluruh unit data teks yang dikirimkan pengguna ke sistem kecerdasan buatan agar model memahami tugas yang diberikan. Ini mencakup teks perintah (prompt), sistem instruksi (system prompt), riwayat percakapan sebelumnya, serta lampiran dokumen atau data pendukung.

Saat Anda mengajukan pertanyaan di ChatGPT atau memanggil API Claude, semua teks yang masuk ke model dihitung sebagai input token.

Cara kerja input token

1. Pengumpulan konteks: Aplikasi mengumpulkan instruksi dasar, riwayat percakapan, dan pertanyaan terakhir Anda menjadi satu rangkaian pesan.
2. Penghitungan token: Sebelum dikirim ke prosesor komputasi (GPU), sistem tokenizer menghitung total token input untuk memeriksa apakah pesan melewati batas maksimal jendela konteks (context window).
3. Pembacaan paralel: Model AI membaca seluruh token input sekaligus menggunakan mekanisme self-attention untuk memetakan hubungan makna antarkata secara utuh.
4. Penagihan biaya: Pada layanan API komersial, penyedia mengenakan tarif berdasarkan jumlah input token yang diproses.

Contoh pemakaian

Jika Anda mengunggah laporan kerja sepanjang 5.000 kata lalu menambahkan perintah: "Buatkan ringkasan 3 poin dari dokumen ini", maka seluruh teks dokumen dan kalimat perintah Anda dihitung sebagai input token. Bila dokumen itu setara 6.500 token, sistem mencatat Anda menggunakan 6.500 input token untuk satu kali pemrosesan tersebut.

Batasan dan salah paham umum

• Tarif lebih murah dibanding output token: Pada sebagian besar penyedia model (OpenAI, Anthropic, Google), tarif per 1 juta input token jauh lebih murah daripada output token karena membaca data lebih hemat daya komputasi dibanding menghasilkan kata baru secara berurutan.
• Akumulasi di sesi chat panjang: Di aplikasi chat, setiap Anda mengirim pesan baru, seluruh riwayat percakapan lama dikirim ulang sebagai input token agar AI tetap mengingat percakapan sebelumnya.
• Input token tidak mencakup jawaban AI: Kata-kata hasil respons AI tidak dihitung sebagai input token, melainkan sebagai output token (completion token).

Rujukan resmi

• OpenAI API Pricing & Prompt Guides (Pengecekan: September 2026, sumber: openai.com/api/pricing).
• Anthropic Claude API Architecture (Pengecekan: September 2026, sumber: docs.anthropic.com).