Hal yang paling meyakinkan dari layanan seperti ChatGPT, Gemini, atau Claude bukanlah isi jawabannya, melainkan caranya menjawab. Kalimatnya tertata, istilahnya tepat, dan nadanya tenang. Masalahnya, nada tenang itu muncul dengan bobot yang persis sama ketika modelnya benar dan ketika ia sedang mengarang.
Kondisi kedua itulah yang disebut halusinasi AI. Anda mungkin pernah mengalaminya: nama buku yang tidak pernah terbit, nomor pasal yang tidak cocok, atau tautan yang menuju halaman kosong. Memahami kenapa hal ini terjadi jauh lebih berguna daripada menghafal peringatan "periksa ulang jawabannya". Akar masalahnya ternyata bukan pada kecanggihan model, melainkan pada cara kita menilainya.
Tulisan ini membahas apa itu halusinasi AI, penyebabnya, seberapa sering terjadi, dan apa yang bisa Anda lakukan. Kalau Anda baru mengenal teknologinya, pembahasan kecerdasan buatan bisa menjadi fondasi sebelum masuk ke sini.
Halusinasi AI Adalah? Pengertian dan Asal Istilahnya
Halusinasi AI adalah keluaran model kecerdasan buatan yang terdengar masuk akal dan disampaikan dengan yakin, tetapi isinya tidak benar. Bentuknya bisa berupa fakta yang dikarang, kutipan yang dipelintir, atau detail tambahan tanpa dasar. Dalam bahasa Inggris istilah ini dikenal sebagai AI hallucination, dan sebagian sumber menuliskannya terbalik menjadi hallucination AI.
Istilahnya sendiri terhitung baru. Cambridge Dictionary menobatkan kata hallucinate sebagai Word of the Year 2023. Makna baru yang ditambahkan ke kamusnya berbunyi: ketika sebuah kecerdasan buatan berhalusinasi, ia menghasilkan informasi palsu.
Secara harfiah istilah ini kurang tepat. Manusia berhalusinasi karena salah menangkap rangsangan indra, sementara model bahasa tidak menangkap apa pun. Ia menyusun kata demi kata berdasarkan kemungkinan yang paling wajar, dan ketika kemungkinan itu kebetulan salah, hasilnya tetap keluar dengan tata bahasa yang mulus. Sebagian peneliti lebih menyukai istilah confabulation, yaitu mengisi ingatan yang bolong tanpa niat berbohong.
Halusinasi berbeda dari bias. Bias adalah kecondongan sudut pandang yang terbawa dari data latih, sementara halusinasi adalah kekeliruan faktual pada satu jawaban. Keduanya bisa muncul bersamaan dengan penanganan yang berbeda.
Dua Bentuk Halusinasi AI: Intrinsik dan Ekstrinsik
Penelitian di bidang ini umumnya membagi contoh halusinasi AI menjadi dua kelompok, yaitu intrinsik dan ekstrinsik. Pembagian itu menentukan cara Anda mendeteksinya.
Bentuk pertama adalah halusinasi intrinsik, yaitu jawaban yang bertentangan dengan perintah atau dokumen yang Anda berikan sendiri. Contoh yang paling mudah diuji: minta sebuah model menghitung berapa huruf D pada kata DEEPSEEK. Dalam pengujian yang tercatat di riset OpenAI, satu model menjawab "2" atau "3" pada sepuluh percobaan berbeda, sementara model lain bahkan menjawab "6" dan "7". Semua bahan untuk menjawab benar ada di depan mata, dan modelnya tetap meleset.
Bentuk kedua adalah halusinasi ekstrinsik, yaitu jawaban yang bertentangan dengan kenyataan di luar percakapan. Dalam riset yang sama, tiga model populer ditanya judul disertasi seorang peneliti. Ketiganya menjawab dengan penuh keyakinan, dengan tiga judul berbeda, tiga tahun berbeda, dan tiga kampus berbeda. Tidak satu pun benar. Ketika ditanya tanggal lahir orang yang sama dengan syarat "jawab hanya kalau tahu", sebuah model tetap memberi tiga tanggal berbeda pada tiga percobaan.
Bedanya terasa saat memeriksa. Halusinasi intrinsik bisa Anda tangkap sendiri karena bahan pembandingnya ada di layar. Halusinasi ekstrinsik menuntut Anda keluar dari percakapan dan mencari sumber lain.
Dua bentuk halusinasi AI: intrinsik melawan dokumen Anda dan cukup dicek di layar, ekstrinsik perlu sumber luar.
Kenapa AI Berhalusinasi? Tiga Akar Penyebabnya
Jawaban yang sering beredar adalah "karena datanya kurang". Penjelasan itu tidak salah, tetapi berhenti terlalu awal. Riset yang diterbitkan tim OpenAI bersama Georgia Tech pada September 2025 menelusurinya sampai tiga lapis.
Lapis pertama: fakta yang hanya muncul sekali
Model belajar pola. Ejaan dan tata bahasa punya pola, dan karena itu model modern hampir tidak pernah salah mengeja. Tetapi tanggal lahir seseorang tidak punya pola yang bisa dipelajari.
Peneliti memakai ukuran yang disebut singleton rate, yaitu porsi fakta yang hanya muncul satu kali di seluruh data latih. Hubungannya lugas: kalau 20 persen fakta tanggal lahir hanya muncul sekali, model dasar diperkirakan akan meleset pada setidaknya 20 persen pertanyaan sejenis. Fakta yang jarang disebut adalah fakta yang paling rawan dikarang.
Lapis kedua: tidak pernah diberi tahu mana yang salah
Pada tahap belajar awal, model hanya melihat contoh teks yang benar. Ia tidak pernah disodori pasangan "ini benar, ini salah". Akibatnya ia tidak pernah belajar membedakan pernyataan sah dari pernyataan palsu, hanya belajar menyusun kalimat yang terdengar wajar. Inilah sebabnya cara kerja LLM yang menebak kata berikutnya secara alami menghasilkan kekeliruan pada fakta yang spesifik.
Lapis ketiga: sistem penilaian menghukum kejujuran
Lapis inilah yang paling menentukan, dan paling jarang jadi bahan pembicaraan. Setelah tahap belajar awal, model diasah dan dinilai memakai serangkaian ujian standar. Riset tersebut menganalisis sepuluh ujian yang paling banyak dipakai di industri. Hasilnya: sembilan dari sepuluh memakai penilaian benar-salah tanpa memberi nilai sama sekali untuk jawaban "saya tidak tahu".
Bayangkan ujian pilihan ganda tanpa pengurangan nilai. Kalau Anda tidak tahu jawabannya, menebak masih memberi peluang benar. Mengosongkannya pasti nol. Model yang dilatih menghadapi papan skor seperti itu akan belajar hal yang sama: selalu menjawab, jangan pernah mengaku tidak tahu.
Tiga akar halusinasi AI: fakta langka tanpa pola, tanpa label benar-salah, lalu ujian menihilkan jawaban tidak tahu.
Bukti Angka: Menebak Mengalahkan Kejujuran
Satu tabel dari kartu sistem GPT-5 membuat hal itu konkret. Dua model diuji pada rangkaian soal pengetahuan faktual yang sama, lalu jawabannya dipilah menjadi tiga kelompok: benar, salah, dan menolak menjawab.
| Jawaban | GPT-5 thinking mini | o4-mini |
|---|---|---|
| Menolak menjawab | 52% | 1% |
| Benar | 22% | 24% |
| Salah | 26% | 75% |
Perhatikan baris kedua. Model yang lebih lama justru unggul dua poin pada akurasi, dan hanya baris itulah yang biasanya dikutip di papan peringkat. Sekarang perhatikan baris ketiga: model lama itu memberi jawaban salah pada 75 persen pertanyaan, hampir tiga kali lipat dibanding penggantinya. Selisihnya lahir dari satu perilaku saja, yaitu kesediaan mengakui ketidaktahuan pada 52 persen kasus versus 1 persen.
Artinya, papan skor yang hanya menghitung akurasi akan memilih model penebak, dan model itulah yang sampai ke tangan Anda. Halusinasi bertahan bukan karena tak bisa ditekan, melainkan karena menekannya membuat model terlihat lebih buruk di peringkat.
Papan skor akurasi: robot yang menebak semua soal bernilai lebih tinggi daripada yang mengosongkan soal ragu.
Seberapa Sering AI Berhalusinasi dalam Angka
Vectara menjalankan pengukuran berkala yang layak dijadikan patokan. Lebih dari 7.700 dokumen disodorkan ke berbagai model, masing-masing diminta meringkas dengan satu syarat ketat: hanya boleh memakai fakta di dokumen itu. Setiap pernyataan tanpa dasar dihitung sebagai halusinasi. Berikut sebagian hasilnya per 11 Mei 2026.
| Model | Halusinasi | Menjawab |
|---|---|---|
| Finix S1 32B | 1,8% | 99,5% |
| GPT-5.4 nano | 3,1% | 100% |
| Gemini 2.5 Flash Lite | 3,3% | 99,5% |
| Phi-4 | 3,7% | 80,7% |
| Snowflake Arctic | 4,3% | 62,7% |
| Ministral 3 3B | 24,2% | 74,3% |
Dalam laporan berbahasa Inggris angka ini disebut AI hallucination rate, atau LLM hallucination bila yang diukur khusus model bahasa besar. Rentangnya lebar, dari 1,8 persen sampai 24,2 persen. Tetapi kolom kanan lebih menarik daripada kolom kiri. Snowflake Arctic tercatat cukup rapi dengan 4,3 persen, dan sebagian ketenangan itu datang karena ia hanya bersedia menjawab 62,7 persen permintaan. Model yang sering diam otomatis punya lebih sedikit kesempatan untuk keliru.
Biasakan membaca dua kolom sekaligus saat melihat peringkat halusinasi. Tingkat halusinasi rendah bisa berarti modelnya teliti, bisa juga berarti modelnya banyak menolak. Keduanya butuh sikap yang berbeda dari Anda sebagai pemakai.
Semua angka di atas terjadi ketika dokumen jawabannya sudah disodorkan di depan model. Untuk pertanyaan terbuka yang mengandalkan ingatan model semata, peluang melesetnya jauh lebih besar.
Contoh Halusinasi AI di Dunia Nyata
Selama jawaban yang keliru berhenti di layar, biayanya kecil. Empat kejadian berikut menunjukkan apa yang terjadi ketika jawaban itu diteruskan tanpa diperiksa.
Rantai dampak halusinasi AI: jawaban meyakinkan tetapi salah, diteruskan tanpa diperiksa, berujung kerugian nyata.
- Ribuan berkas pengadilan. Sebuah basis data publik melacak putusan pengadilan yang memuat materi hasil halusinasi AI. Per 23 Agustus 2026 tercatat 1.954 kasus di puluhan negara, dengan Amerika Serikat terbanyak. Pelakunya bukan hanya orang awam: 777 kasus melibatkan pengacara dan 28 melibatkan hakim. Indonesia belum tercatat di sana.
- Enam putusan yang tidak pernah ada. Pada 2023 dua advokat di New York didenda 5.000 dolar AS setelah mengajukan berkas berisi enam putusan karangan ChatGPT, lengkap dengan kutipan dan nomor perkara. Poin yang sering terlewat: hakim menyatakan pemakaian AI-nya bukan itikad buruk. Sanksi jatuh karena keduanya tetap mempertahankan putusan palsu itu setelah lawan dan pengadilan sama-sama tidak menemukannya.
- Chatbot yang mengikat perusahaannya. Pada Februari 2024 sebuah tribunal di British Columbia memutuskan Air Canada wajib membayar ganti rugi karena chatbot di situsnya keliru menerangkan tarif duka. Maskapai berargumen chatbot adalah entitas terpisah yang bertanggung jawab atas ucapannya sendiri, dan argumen itu ditolak. Preseden ini relevan bagi siapa pun yang memasang asisten otomatis di websitenya.
- Nama paket yang dikarang lalu direbut. Ketika diminta menulis kode, model kerap menyarankan pustaka yang tidak pernah ada di registry seperti npm atau PyPI. Studi di USENIX Security 2025 membuat 576.000 potongan kode dari 16 model. Hasilnya 5,2 persen nama paket karangan pada model komersial, dan 21,7 persen pada model terbuka. Seluruhnya 205.474 nama fiktif unik. Penyerang tinggal mendaftarkan nama-nama itu dan menunggu orang memasangnya. Pengujian ulang pada model 2026 menunjukkan angkanya menyusut ke 4,6 sampai 6,1 persen. Meski begitu masih ada 53 nama yang bisa direbut, dan kelima model menyebutnya sama persis.
Risikonya naik satu tingkat lagi pada AI agent, yaitu sistem yang tidak berhenti di menjawab melainkan langsung bertindak. Jawaban keliru menghasilkan informasi salah; tindakan keliru menghasilkan pesan terkirim atau berkas terhapus.
Kenapa Halusinasi AI Tidak Akan Hilang Sepenuhnya
Bagian ini perlu Anda pertimbangkan sebelum menaruh banyak harapan pada versi model berikutnya.
Pertama, secara matematis tingkat kesalahan sebuah model terikat pada kesulitan membedakan pernyataan benar dari pernyataan palsu. Selama pembedaan itu tidak sempurna, keluarannya juga tidak akan sempurna. Riset OpenAI bahkan menunjukkan tingkat kesalahan model cenderung setidaknya dua kali lipat dari tingkat kekeliruan pembedaannya.
Kedua, sebagian pertanyaan memang tidak punya jawaban yang bisa ditentukan, entah karena informasinya tidak tersedia atau karena pertanyaannya bermakna ganda. Akurasi 100 persen bukan target realistis, dan model yang mengejarnya akan mengarang.
Ketiga, penambal paling populer pun tidak menutup celahnya. Pendekatan RAG menyuapkan dokumen relevan ke model sebelum ia menjawab, dan itu memang menurunkan angka halusinasi. Tetapi riset yang sama menegaskan: selama penilaiannya tetap benar-salah, model ber-RAG pun terdorong menebak setiap kali pencariannya gagal. Menyalakan pencarian web mengurangi masalah, bukan menghapusnya. Melatih ulang model lewat fine tuning juga tidak menyelesaikannya, karena persoalannya ada pada cara model dinilai.
Yang bisa berubah adalah insentifnya. Usulan para peneliti sederhana: cantumkan ambang keyakinan di dalam soal ujian, misalnya jawaban salah dikurangi dua poin sementara "tidak tahu" mendapat nol. Dengan aturan itu, mengaku tidak tahu menjadi pilihan yang rasional.
Cara Mengatasi Halusinasi AI dan Tandanya
Cara mengatasi halusinasi AI dari sisi pemakai bertumpu pada satu hal: Anda tidak bisa memperbaiki cara model dinilai, tetapi bisa memperbaiki cara Anda memakainya. Enam kebiasaan berikut menurunkan risiko secara nyata.
- Cantumkan izin untuk tidak tahu. Tambahkan kalimat seperti "jawab hanya kalau Anda yakin di atas 90 persen, selain itu katakan tidak tahu" di akhir perintah. Ini memindahkan aturan main yang tadi dibahas ke dalam percakapan Anda sendiri.
- Sodorkan dokumennya, jangan andalkan ingatan. Menempelkan teks sumber ke percakapan menurunkan angka halusinasi jauh lebih besar daripada memperbaiki susunan perintah.
- Minta kutipan, lalu buka tautannya. Tautan yang dikarang adalah tanda yang paling cepat terlihat. Halaman yang tidak bisa dibuka atau judul yang tidak cocok dengan kutipannya sudah cukup untuk membatalkan seluruh jawaban.
- Ajukan pertanyaan yang sama dua kali di percakapan terpisah. Jawaban yang berubah menandakan model sedang menebak. Jawaban yang konsisten belum tentu benar, tetapi setidaknya bukan tebakan acak.
- Naikkan kewaspadaan pada jenis data tertentu. Nama orang, tanggal, angka, nomor pasal, nomor versi, dan nama pustaka pemrograman paling rawan, persis karena tidak punya pola.
- Kenali alat bantu dan batasnya. Sudah tersedia pendeteksi otomatis (hallucination detector) yang membandingkan jawaban dengan dokumen sumbernya; mesin penilai di balik peringkat Vectara salah satunya. Alat semacam ini memeriksa kesetiaan pada dokumen, tetapi tidak bisa menilai pernyataan yang dokumennya memang tidak ada.
Aturan praktis yang bisa Anda pakai: sesuaikan tingkat pemeriksaan dengan taruhannya. Untuk draf tulisan internal, membaca sekilas sudah memadai. Untuk angka keuangan, dosis obat, atau dasar hukum, setiap pernyataan wajib punya sumber yang Anda buka sendiri.
Pertanyaan yang Sering Diajukan
Apa yang dimaksud dengan halusinasi AI?
Istilah ini merujuk pada situasi ketika model AI menghasilkan informasi tidak berdasar, tetapi menyampaikannya seolah-olah fakta. Yang dimaksud bukan model rusak, melainkan model yang bekerja normal: tugasnya menyusun kelanjutan kalimat paling wajar, bukan memeriksa kebenaran.
Kenapa AI tetap bertahan pada jawabannya saat saya koreksi?
Karena jawaban sebelumnya sudah menjadi bagian dari percakapan, dan model menyusun kelanjutan yang paling wajar dari situ. Ia menjaga kesinambungan alih-alih memeriksa ulang fakta. Cara paling efektif bukan berdebat, melainkan memulai percakapan baru sambil menempelkan sumber yang benar.
Apakah versi berbayar lebih jarang berhalusinasi?
Umumnya iya, karena versi berbayar memakai model lebih besar dan dilengkapi kemampuan mencari informasi terbaru. Tetapi selisihnya tidak sebesar yang dibayangkan, dan model besar tetap mengarang pada pertanyaan yang datanya langka. Membayar mengurangi frekuensinya, tidak menghapus kewajiban memeriksa.
Kenapa AI sering memberi tautan yang tidak bisa dibuka?
Alamat halaman sangat berpola, sehingga model mudah menyusun alamat yang terlihat sah padahal tidak pernah ada. Ini contoh murni halusinasi ekstrinsik. Perlakukan setiap tautan dari AI sebagai belum terbukti sampai Anda membukanya.
Apakah halusinasi bisa terjadi pada gambar dan suara juga?
Bisa. Model yang membaca gambar dapat menyebutkan benda yang tidak ada di foto, atau salah membaca angka pada struk yang kurang tajam. Pembahasannya ada di artikel multimodal AI.
Apakah suatu saat halusinasi bisa dihapus total?
Tidak sepenuhnya, setidaknya dengan pendekatan yang ada sekarang. Yang realistis adalah menekan frekuensinya dan membuat model lebih sering mengaku tidak tahu. Perubahan besarnya bukan di modelnya, melainkan pada cara industri menilainya.
Kesimpulan
Halusinasi AI adalah jawaban yang terdengar meyakinkan tetapi isinya keliru, dan sifatnya melekat pada cara model bahasa bekerja. Akarnya berlapis. Fakta yang jarang muncul tidak bisa dipelajari sebagai pola, dan model tidak pernah diajari membedakan benar dari salah. Di atas keduanya, sistem penilaian yang berlaku memberi nol poin untuk kejujuran. Selama papan peringkat hanya menghitung akurasi, menebak akan selalu menjadi strategi yang menang.
Sikap kerja yang masuk akal adalah memperlakukan keluaran AI sebagai draf dari asisten yang cepat tetapi belum tentu teliti. Sodorkan dokumennya, minta kutipan, buka tautannya, dan naikkan pemeriksaan seiring naiknya taruhan. Untuk memahami fondasi teknologinya, tersedia pembahasan generative AI. Semoga artikel ini membantu.
