Apa itu Top-p (Sampling AI)?

Apa itu Top-p?

Top-p, yang juga dikenal sebagai Nucleus Sampling, adalah parameter konfigurasi inferensi kecerdasan buatan yang mengatur bagaimana model bahasa memilih kata (token) berikutnya dari distribusi probabilitas yang tersedia.

Alih-alih selalu memilih satu token dengan persentase probabilitas tertinggi secara mutlak (Greedy Decoding) yang dapat menyebabkan teks terdengar monoton dan berulang, atau membatasi jumlah kata teratas secara kaku (Top-k), Top-p membatasi pilihan pada kelompok kandidat terkecil yang jumlah total probabilitas kumulatifnya mencapai nilai ambang batas $p$ (antara 0,0 hingga 1,0).

Cara kerja Nucleus Sampling (Top-p)

Ketika model memprediksi kata berikutnya dalam sebuah kalimat:

1. Perhitungan Skor Probabilitas: Lapisan output model menghasilkan daftar ratusan ribu token beserta nilai persentase kemungkinan kemunculannya, lalu diurutkan dari yang paling besar ke yang terkecil.
2. Penjumlahan Kumulatif: Algoritma menjumlahkan persentase probabilitas dari kandidat urutan teratas secara berurutan hingga batas kumulatif $p$ terpenuhi.
3. Pemotongan dan Normalisasi Ulang: Seluruh kata kandidat di luar kelompok batas kumulatif tersebut langsung dibuang (cutoff). Model kemudian melakukan pengundian acak hanya di dalam kelompok inti (nucleus) tersebut.

Sebagai contoh, jika nilai top_p diatur ke 0.9:

• Model hanya mempertimbangkan kelompok kandidat teratas yang mencakup 90% massa kemungkinan kumulatif.
• Sisa 10% kata-kata aneh, tidak lazim, atau di luar konteks dipangkas total sehingga mencegah model menghasilkan kalimat rancu atau tidak masuk akal.

Panduan penggunaan praktis di API

Penyedia API utama seperti OpenAI, Anthropic, dan Google menyertakan parameter top_p bersama dengan parameter temperature. Rekomendasi resmi dari dokumentasi pengembang menyarankan pengguna untuk hanya mengubah salah satu di antaranya (mengubah temperature ATAU top_p, tidak mengubah keduanya sekaligus) agar perilaku variasi model dapat diprediksi secara konsisten.

Berdasarkan dokumentasi resmi pengembang per tanggal pengecekan 28 September 2026:

• Top-p Rendah (0.1 – 0.3): Menghasilkan tanggapan yang sangat terfokus, presisi, deterministik, dan minim variasi. Sangat ideal untuk ekstraksi data JSON terstruktur, penulisan rumus matematika, klasifikasi dokumen hukum, dan koding presisi.
• Top-p Standar (0.7 – 0.9): Pengaturan seimbang bawaan sistem untuk obrolan umum, ringkasan artikel, dan penulisan konten informatif harian.
• Top-p Tinggi (0.95 – 1.0): Membuka ruang bagi seluruh variasi kosakata kaya di dalam kelompok 95-100%, sangat cocok untuk penulisan puisi kreatif, pembuatan ide cerita fiksi, atau sesi curah pendapat (brainstorming).

Batasan dan salah paham umum

• Bukan pengganti temperature sepenuhnya: Meskipun keduanya sama-sama mengontrol derajat keacakan tanggapan, cara kerjanya berbeda. Temperature meratakan atau mempertajam kurva distribusi probabilitas seluruh token, sedangkan Top-p memotong ekor probabilitas rendah secara dinamis berdasarkan akumulasi persentase.
• Bukan pencegah halusinasi mutlak: Mengatur Top-p ke 0.1 atau 0.0 membuat model menjawab dengan pola kata paling konsisten, tetapi jika data dasar pelatihan model keliru mengenai sebuah fakta, model tetap akan mengeluarkan fakta keliru tersebut secara konsisten.

Rujukan resmi

• Holtzman et al. (University of Washington & Allen Institute for AI): The Curious Case of Neural Text Degeneration (Makalah perintis Nucleus Sampling, Pengecekan: 28 September 2026, rujukan resmi: arxiv.org/abs/1904.09751).
• OpenAI API Reference: Chat Completions - top_p parameter specification (Pengecekan: 28 September 2026, rujukan resmi: platform.openai.com/docs/api-reference/chat/create).
• Anthropic Claude API Documentation: Sampling Parameters (Pengecekan: 28 September 2026, rujukan resmi: docs.anthropic.com/en/api/sampling-params).