Apa itu Lost in the Middle (Fenomena)?
Lost in the Middle adalah temuan bahwa model bahasa paling akurat memakai informasi di awal dan akhir konteks, tetapi melemah saat informasi penting berada di tengah.
Apa itu Lost in the Middle?
Lost in the Middle adalah nama temuan riset yang menunjukkan bahwa model bahasa besar tidak memakai seluruh konteks panjang secara merata. Informasi yang diletakkan di awal atau akhir konteks lebih sering dipakai dengan benar. Informasi yang terselip di tengah justru sering terlewat, meskipun model secara teknis sanggup membacanya.
Istilah ini jadi rujukan populer setelah makalah Nelson F. Liu dan kawan-kawan berjudul Lost in the Middle: How Language Models Use Long Contexts (arXiv:2307.03172, Juli 2023), yang kemudian terbit di jurnal TACL volume 12 (2024).
Cara kerja temuannya
Peneliti menguji dua tugas. Pertama, tanya-jawab multi-dokumen: model diberi belasan dokumen, satu di antaranya memuat jawaban, lalu posisi dokumen kunci digeser. Kedua, pengambilan nilai kunci dari daftar panjang.
Hasilnya berbentuk kurva U. Akurasi tinggi saat bukti ada di posisi paling awal, turun di posisi tengah, lalu naik lagi di posisi paling akhir. Pola ini muncul pada beberapa model dan tidak hilang hanya dengan memperbesar jendela konteks.
Contoh pemakaian
Kalau kamu membangun chatbot yang menyisipkan 30 potongan dokumen ke prompt, urutan peletakan menentukan hasil. Potongan yang paling relevan sebaiknya ditaruh di awal atau di akhir deretan, bukan di indeks ke-15.
Kebiasaan praktis yang muncul dari temuan ini:
- Taruh instruksi penting di dua tempat: pembuka dan penutup prompt.
- Batasi jumlah potongan konteks. Lima potongan relevan lebih baik daripada 30 potongan yang sebagian besar tidak dipakai.
- Beri penanda nomor pada tiap potongan agar model lebih mudah merujuk sumber.
- Untuk dokumen sangat panjang, ringkas per bagian dulu sebelum digabung.
Batasan dan salah paham umum
- Bukan berarti konteks panjang tidak berguna. Model tetap bisa membaca bagian tengah. Masalahnya soal konsistensi, bukan kemampuan mutlak.
- Angka degradasi bergantung model dan tugas. Tidak ada satu persentase tetap yang berlaku semua model. Hasil riset 2023 perlu dibaca ulang untuk model terbaru.
- Tidak sama dengan context rot. Context rot membahas penurunan kualitas secara umum saat konteks makin panjang. Lost in the Middle spesifik soal posisi informasi.
- Bukan alasan mengabaikan jendela konteks besar. Konteks besar berguna untuk percakapan panjang dan analisis dokumen; kamu hanya perlu sadar soal urutan.
- Tidak bisa diatasi hanya dengan prompt "baca semua baik-baik". Instruksi seperti itu tidak mengubah cara mekanisme atensi bekerja.
Rujukan resmi
- Liu, Shah, Swaminathan, Lenz, Ravichander, Anand, Sahu. Lost in the Middle: How Language Models Use Long Contexts. arXiv:2307.03172 (6 Juli 2023). https://arxiv.org/abs/2307.03172
- TACL Volume 12, 2024. https://direct.mit.edu/tacl/article/doi/10.1162/tacl_a_00638/119630/Lost-in-the-Middle-How-Language-Models-Use-Long
Dicek 13 November 2026.
Istilah Terkait