Apa itu RAG (Retrieval-Augmented Generation)?

Apa itu RAG?

RAG adalah singkatan dari Retrieval-Augmented Generation. Ini adalah arsitektur teknis dalam kecerdasan buatan yang bertugas mencari dokumen atau data pendukung yang relevan dari luar (retrieval), lalu menyodorkan fakta-fakta tersebut ke dalam model bahasa besar (Large Language Model / LLM) agar model dapat merangkai jawaban yang akurat dan berbasis data nyata (generation). Konsep ini pertama kali diperkenalkan oleh Patrick Lewis dan tim peneliti gabungan dari Facebook AI Research (FAIR), University College London, dan New York University pada tahun 2020.

Untuk memahami RAG secara sederhana, bayangkan seorang siswa yang sedang menghadapi ujian dengan buku terbuka (open-book exam). Tanpa RAG, model AI bertindak seperti siswa yang hanya mengandalkan hafalan di kepalanya dari materi yang dipelajari bertahun-tahun lalu. Jika materi tersebut sudah usang atau detailnya rumit, siswa berisiko salah mengingat. Namun dengan RAG, siswa dipersilakan membuka buku panduan resmi atau dokumen SOP terbaru, mencari bab yang tepat, lalu merangkum jawaban berdasarkan fakta yang tertulis di halaman tersebut.

Mekanisme ini menjadi standar industri modern karena perusahaan tidak perlu melatih ulang model AI bernilai miliaran rupiah (re-training) hanya untuk memperbarui informasi harga produk atau regulasi operasional harian.

Cara kerja sistem RAG dari dokumen hingga jawaban

Sistem RAG bekerja melalui dua tahapan berurutan:

1. Tahap Pengindeksan Dokumen (Indexing Phase):

   • Pemecahan Teks (Chunking): Dokumen panjang seperti PDF pedoman kerja atau SOP perusahaan dipotong-potong menjadi segmen kecil berisi beberapa paragraf (biasanya 256 sampai 1.024 token).
   • Pembuatan Vektor (Embedding): Setiap potongan teks diterjemahkan ke dalam koordinat angka matematis (vector embedding) menggunakan model penyematan bahasa. Potongan teks dengan topik serupa akan memiliki koordinat yang berdekatan di ruang multidimensi.
   • Penyimpanan (Vector Storage): Vektor koordinat bersama teks aslinya disimpan ke dalam basis data vektor (vector database) seperti pgvector, Pinecone, atau Qdrant.

2. Tahap Pencarian dan Pembuatan Jawaban (Runtime Retrieval & Generation):

   • Penerjemahan Pertanyaan: Saat pengguna mengajukan pertanyaan, pertanyaan tersebut diubah menjadi vektor numerik dengan model embedding yang sama.
   • Pencarian Kemiripan Semantik (Similarity Search): Basis data vektor menghitung kedekatan jarak (seperti cosine similarity) antara vektor pertanyaan dan seluruh potongan dokumen. Sistem mengambil 3 sampai 5 potongan teks yang paling relevan.
   • Penyusunan Konteks (Prompt Augmentation): Potongan teks referensi yang ditemukan ditempelkan ke dalam instruksi masukan bersama pertanyaan pengguna.
   • Perumusan Jawaban: LLM membaca potongan dokumen tersebut di dalam jendela konteksnya, memverifikasi fakta di dalamnya, lalu menyusun jawaban terstruktur dan menyertakan sitasi sumber ke pengguna.

Contoh pemakaian nyata

Sistem RAG telah diterapkan secara luas pada berbagai skenario bisnis dan operasional:

• Layanan Pelanggan Perbankan: Menjawab pertanyaan nasabah seputar biaya transfer valas, limit transaksi kartu debit, atau syarat pengajuan KPR berdasarkan surat edaran direksi terbaru tanpa risiko salah sebut angka.
• Asisten Hukum dan Audit Kepatuhan: Memeriksa klausul perjanjian kerja terhadap pasal-pasal undang-undang ketenagakerjaan yang berlaku, lengkap dengan pencantuman nomor pasal dan undang-undang rujukan.
• Dukungan Teknis Internal Perusahaan: Membantu staf teknis menemukan diagram konfigurasi server atau langkah pemecahan masalah jaringan dari ribuan halaman dokumentasi internal di repositori kantor.

Batasan dan salah paham umum

• Bukan proses fine-tuning model: RAG tidak mengubah bobot matematis atau struktur saraf AI. Model AI tetap menggunakan bobot bawaan pabrik, tetapi diberi contekan materi bacaan tepat pada saat pertanyaan diproses.
• Kualitas jawaban bergantung pada akurasi mesin pencari: Jika modul pencarian mengambil potongan dokumen yang salah atau tidak relevan, model AI tetap akan menghasilkan jawaban yang keliru (garbage in, garbage out).
• Menambah latensi pemanggilan: Waktu respons sistem RAG membutuhkan beberapa detik lebih lama dibanding panggilan AI biasa karena sistem harus menjalankan kueri basis data vektor terlebih dahulu sebelum LLM mulai menulis kata pertama.
• Keterbatasan dokumen yang sangat kompleks: Untuk dokumen yang banyak memuat tabel angka bersarang atau keterkaitan antarbab yang rumit, sistem RAG standar perlu dikombinasikan dengan teknik Reranker atau Graph RAG agar hubungan konteks tidak terputus.

Rujukan resmi

• Lewis et al. (2020), "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks", Advances in Neural Information Processing Systems (NeurIPS 2020), arXiv:2005.11401 (Pengecekan: Oktober 2026, sumber: arxiv.org/abs/2005.11401).
• AWS Architecture Center: What is Retrieval-Augmented Generation (RAG)? (Pengecekan: Oktober 2026, sumber: aws.amazon.com/what-is/retrieval-augmented-generation).
• Google Cloud Generative AI: Retrieval-Augmented Generation Architecture Overview (Pengecekan: Oktober 2026, sumber: cloud.google.com/use-cases/retrieval-augmented-generation).