Langsung ke konten

Apa itu Beam Search (Pencarian Berkas pada Decoding AI)?

Beam search adalah strategi decoding yang menahan beberapa kandidat terbaik sekaligus di setiap langkah, bukan cuma satu, lalu memilih urutan dengan skor total tertinggi.

Apa itu Beam Search?

Beam search adalah algoritma pencarian yang dipakai model seq2seq dan model bahasa untuk memilih urutan kata terbaik saat menghasilkan teks. Alih-alih memilih satu token terbaik di setiap langkah seperti greedy decoding, beam search mempertahankan sejumlah kandidat teratas secara paralel. Jumlah kandidat itu disebut lebar beam (num_beams).

Algoritma ini dipopulerkan lewat makalah Sequence to Sequence Learning with Neural Networks (Sutskever, Vinyals, Le, 2014). Terjemahan mesin adalah lahan utamanya, tapi penerapannya melebar ke ringkasan teks, koreksi ejaan, dan captioning gambar.

Cara kerja

Misalkan num_beams = 3. Prosesnya:

  1. Langkah 1. Model memberi probabilitas untuk token pertama. Ambil 3 token dengan skor tertinggi. Sekarang ada 3 hipotesis aktif.
  2. Langkah 2. Untuk tiap 3 hipotesis, model menghitung probabilitas token berikutnya. Dari 3 × kosakata kemungkinan, ambil 3 jalur dengan skor kumulatif tertinggi. Sebagian jalur akan berbagi awalan yang sama, sebagian bercabang.
  3. Ulangi sampai semua jalur menyentuh token akhir atau batas panjang.
  4. Pilih urutan dengan skor total terbaik.

Skor tiap jalur dijumlahkan dalam bentuk log probabilitas, bukan probabilitas mentah. Penjumlahan log setara perkalian probabilitas dan menghindari angka yang terlalu kecil.

Dokumentasi HuggingFace Transformers menyebutkan parameter early_stopping mengatur kapan pencarian berhenti:

  • True — berhenti begitu ada num_beams kandidat lengkap.
  • False — pakai heuristik, berhenti saat kecil kemungkinan ada kandidat lebih baik.
  • "never" — varian beam search kanonik, baru berhenti ketika tidak mungkin ada kandidat lebih baik.

Contoh pemakaian

from transformers import AutoModelForCausalLM, AutoTokenizer
tok = AutoTokenizer.from_pretrained("nama-model")
mdl = AutoModelForCausalLM.from_pretrained("nama-model")

out = mdl.generate(
    **tok("Cara merawat baterai HP agar awet adalah", return_tensors="pt"),
    num_beams=4,
    early_stopping=True,
    max_new_tokens=60,
)

Kapan memakainya:

  • Terjemahan dan ringkasan. Tugas yang menghargai kalimat paling mungkin secara keseluruhan, bukan yang paling kreatif.
  • Koreksi teks. Ejaan dan tata bahasa yang benar biasanya jalur probabilitas tertinggi.
  • Captioning gambar. Deskripsi faktual lebih baik dihasilkan deterministik.

Kapan menghindarinya: chat, cerita, dan brainstorming. Beam search cenderung menghasilkan teks aman, datar, dan berulang. Untuk itu pakai sampling.

Batasan dan salah paham umum

Beam search tidak menjamin kalimat terbaik global. Yang dicari adalah perkiraan, karena ruang kemungkinan terlalu besar untuk ditelusuri habis. Beam search hanyalah pencarian heuristik.

Semakin lebar beam, semakin mahal. num_beams=10 berarti model menjalankan 10 kali lebih banyak komputasi decoding. Di API produksi ini langsung terasa di biaya dan latensi.

Beam lebar bisa justru lebih buruk. Beberapa studi menemukan beam lebar menghasilkan teks yang lebih pendek dan kurang natural, fenomena yang dijuluki beam search curse. Lebar 3 sampai 5 biasanya titik aman.

Beam search dan temperature tidak bisa dipakai bersamaan. Beam search butuh logits deterministik untuk dibandingkan. Temperature dan sampling mengacak, sehingga keduanya saling meniadakan. HuggingFace secara eksplisit memisahkan parameter do_sample dari num_beams.

Beam search tidak sama dengan best-first search. Beam search membatasi memori ke sejumlah jalur tetap, sedangkan best-first menyimpan semua kandidat di priority queue.

Istilah terkait

Greedy Decoding, Top-p, Temperature (Parameter AI), Logits, Softmax, Inferensi AI

Rujukan resmi

  • HuggingFace. GenerationConfig — num_beams dan early_stopping. huggingface.co/docs/transformers/main/en/main_classes/text_generation — diakses 10 November 2026.
  • Sutskever, Vinyals, Le. Sequence to Sequence Learning with Neural Networks. arXiv:1409.3215 (2014) — diakses 10 November 2026.

Istilah Terkait

Top-pTemperature (Parameter AI)LogitsSoftmaxInferensi AILLM (Large Language Model)