Apa itu Contextual Retrieval (Retrieval Kontekstual RAG)?

Apa itu Contextual Retrieval?

Contextual Retrieval adalah teknik optimasi sistem Retrieval-Augmented Generation (RAG) yang diperkenalkan oleh Anthropic pada September 2024. Metode ini memecahkan salah satu masalah terbesar dalam arsitektur RAG konvensional: hilangnya konteks saat dokumen dipecah menjadi potongan-potongan kecil (chunk).

Dalam RAG standar, dokumen panjang dipotong menjadi potongan teks berisi beberapa ratus kata. Masalah muncul ketika sebuah potongan teks tidak lagi memuat subjek atau konteks utamanya. Sebagai contoh, sebuah chunk berbunyi: "Pendapatan kuartal ini naik 15% berkat peningkatan penjualan lini produk enterprise." Model embedding tidak tahu perusahaan mana yang dimaksud atau kuartal tahun berapa, sehingga pencarian vektor sering gagal menemukan dokumen yang relevan.

Contextual Retrieval menyelesaikan masalah ini dengan menambahkan penjelasan konteks singkat (sekitar 50–100 token) di awal setiap chunk sebelum chunk tersebut diubah menjadi embedding atau diindeks ke mesin pencari.

Cara kerja Contextual Retrieval

Proses implementasi Contextual Retrieval dilakukan melalui langkah-langkah berikut:

1. Pemotongan dokumen: Dokumen panjang dipotong menjadi chunk seperti biasa.
2. Generasi konteks oleh LLM: Model AI yang cepat dan hemat biaya (seperti Claude 3 Haiku) membaca seluruh dokumen asli beserta chunk target, kemudian menghasilkan 1–2 kalimat penjelasan konteks global.
3. Penyisipan konteks: Penjelasan konteks digabungkan di bagian awal chunk asli.
4. Pengindeksan ganda (Hybrid Search): Chunk yang telah diperkaya diindeks menggunakan dua metode sekaligus:
   • Embedding semantik: Diubah menjadi vektor ke dalam vector database.
   • BM25 lexical search: Diindeks berbasis kata kunci persis untuk menangkap kode produk, nama orang, atau angka spesifik.
5. Reranking: Hasil pencarian dari embedding dan BM25 digabungkan, lalu diurutkan ulang menggunakan model reranker sebelum diserahkan ke model utama.

Berdasarkan hasil eksperimen Anthropic, penambahan Contextual Retrieval mampu memangkas tingkat kegagalan retrieval hingga 49%. Ketika dikombinasikan dengan BM25 dan reranker, kegagalan retrieval berkurang hingga 67%.

Contoh implementasi

Misalkan sebuah laporan keuangan setebal 50 halaman dari PT Maju Bersama dipotong. Salah satu chunk hanya bertuliskan:

"Divisi cloud menyumbang laba bersih sebesar Rp 45 miliar pada periode tersebut."

Dengan Contextual Retrieval, model pendukung membuat ringkasan konteks otomatis:

"Potongan teks ini berasal dari Laporan Keuangan PT Maju Bersama Kuartal 3 Tahun 2025, pada bagian performa divisi infrastruktur digital."

Teks yang diindeks menjadi:

Potongan teks ini berasal dari Laporan Keuangan PT Maju Bersama Kuartal 3 Tahun 2025, pada bagian performa divisi infrastruktur digital. Divisi cloud menyumbang laba bersih sebesar Rp 45 miliar pada periode tersebut.

Dengan format ini, pertanyaan pengguna seperti "Berapa laba cloud PT Maju Bersama di Q3 2025?" langsung cocok dengan chunk tersebut, baik via semantic search maupun kata kunci eksak.

Batasan dan salah paham umum

• Bukan pengganti arsitektur RAG: Contextual Retrieval adalah teknik augmentasi pada fase pra-pemrosesan (ingestion), bukan arsitektur mandiri di luar RAG.
• Biaya komputasi awal lebih tinggi: Memerlukan panggilan LLM untuk setiap chunk saat proses indexing pertama kali. Namun, biaya ini hanya dibayar sekali saat data dimasukkan (dapat dioptimalkan menggunakan prompt caching).
• Ketergantungan pada jendela konteks: Dokumen sumber harus muat di dalam jendela konteks model pendukung agar model memahami konteks globalnya.

Rujukan resmi

• Anthropic Research & Engineering — Introducing Contextual Retrieval: anthropic.com/news/contextual-retrieval (Pengecekan: 9 Oktober 2026)
• Anthropic Docs — Contextual Embeddings and Retrieval Guidelines: docs.anthropic.com (Pengecekan: 9 Oktober 2026)