Apa itu Halusinasi AI (AI Hallucination)?

Apa itu Halusinasi AI?

Halusinasi AI (AI hallucination) adalah fenomena di mana model bahasa besar (Large Language Model) menyajikan informasi yang sepenuhnya keliru, tidak akurat, atau fiktif, namun menyampaikannya dengan gaya bahasa yang sangat percaya diri, logis, dan meyakinkan.

Istilah ini dipinjam dari psikologi untuk menggambarkan situasi ketika sistem kecerdasan buatan "melihat" atau "menyimpulkan" fakta yang sebenarnya tidak pernah ada di dunia nyata maupun di dalam data rujukannya.

Mengapa halusinasi AI bisa terjadi?

Model bahasa besar tidak memiliki kesadaran, pemikiran logis mutlak, ataupun basis pengetahuan terverifikasi secara bawaan. Cara kerjanya didasarkan pada probabilitas statistik:

1. Prediksi Kata Berikutnya: Model dilatih untuk menebak kata berikutnya yang paling mungkin muncul (next-token prediction) berdasarkan pola susunan kalimat dalam miliaran teks pelatihan.
2. Ketiadaan Konsep Kebenaran: Bagi model AI, kalimat fiktif yang terdengar gramatis memiliki bobot probabilitas yang mirip dengan fakta sejarah nyata bila konteksnya mendukung.
3. Data Pelatihan Terbatas atau Usang: Bila topik yang ditanyakan jarang dibahas di internet atau terjadi setelah tanggal batas pelatihan (cutoff date), model cenderung menyambung potongan informasi acak untuk mengisi kekosongan jawaban.
4. Prompt yang Mengarahkan (Leading Prompt): Pengguna yang menanyakan pertanyaan dengan asumsi salah (misalnya: "Siapa presiden Indonesia yang lahir di planet Mars?") dapat memicu model mengarang cerita untuk menyesuaikan narasi pertanyaan.

Cara mengurangi dan mencegah halusinasi

• Penerapan RAG (Retrieval-Augmented Generation): Menyediakan dokumen rujukan nyata dan memaksa model hanya menjawab berdasarkan kutipan dokumen tersebut.
• Menurunkan Parameter Temperature: Mengatur nilai temperature ke angka rendah (misalnya 0.0 atau 0.2) agar model memilih keluaran kata yang paling pasti dan konsisten, bukan variatif.
• Instruksi Khusus di System Prompt: Memberikan instruksi tegas seperti: "Bila Anda tidak mengetahui jawabannya dengan pasti berdasarkan teks di atas, katakan 'Saya tidak tahu' dan jangan mengarang informasi."
• Verifikasi Sumber Primer: Selalu memeriksa ulang klaim tanggal, pasal hukum, dosis obat, atau angka statistik penting ke sumber otoritatif resmi sebelum mempublikasikannya.

Batasan dan salah paham umum

• Bukan tanda model rusak: Halusinasi adalah konsekuensi alami dari arsitektur probabilitas deep learning, bukan bug perangkat lunak biasa yang bisa dihilangkan hanya dengan satu baris perbaikan kode.
• Trik penulisan percaya diri: AI tidak mengetahui apakah ia sedang berbohong atau berkata jujur; nada bicaranya yang meyakinkan hanyalah cerminan dari gaya teks profesional yang dipelajarinya selama fase pra-pelatihan.

Rujukan resmi

• IBM Think Topics: What are AI hallucinations? (Pengecekan: 25 September 2026, sumber: ibm.com/topics/ai-hallucinations).
• Google Cloud AI: Understanding and Mitigating Hallucinations in Generative AI (Pengecekan: 25 September 2026, sumber: cloud.google.com/discover/what-are-ai-hallucinations).