Halusinasi AI: pengertian, penyebab, dan langkah penanganan

Apa itu halusinasi AI?

Halusinasi AI adalah keluaran alat AI generatif yang disajikan dengan yakin, tetapi salah, direkayasa, atau tidak didukung oleh masukan yang diberikan. Profil AI Generatif NIST menggunakan istilah konfabulasi untuk hal yang sama dan menggambarkannya sebagai sistem generatif yang menghasilkan serta menyajikan konten keliru atau palsu dengan yakin. NIST memasukkan keluaran yang menyimpang dari instruksi atau masukan lain, atau bertentangan dengan pernyataan sebelumnya dalam percakapan yang sama, ke dalam definisi tersebut.

Istilah halusinasi adalah metafora yang agak menyesatkan. Alat ini tidak sedang melihat sesuatu yang sebenarnya tidak ada. Alat ini menghasilkan teks yang secara statistik masuk akal untuk konteksnya, dan terkadang teks yang masuk akal itu salah. Itulah sebabnya halusinasi jarang tampak seperti kesalahan. Bentuknya seperti jawaban biasa yang ditulis dengan baik.

Mengapa ChatGPT mengalami halusinasi?

ChatGPT dan alat serupa berhalusinasi karena dirancang untuk menghasilkan kelanjutan teks yang paling mungkin, bukan untuk mengambil fakta yang telah diverifikasi. NIST menjelaskan bahwa konfabulasi merupakan konsekuensi alami dari rancangan model generatif: model ini memperkirakan distribusi statistik data pelatihannya. Meskipun cara ini dapat menghasilkan keluaran yang akurat, cara ini juga dapat menghasilkan keluaran yang salah secara faktual atau tidak konsisten. NIST mencatat bahwa masalah ini terutama relevan untuk jawaban panjang atas pertanyaan terbuka dan pertanyaan yang memerlukan keahlian khusus.

Sebuah makalah penelitian tahun 2025 oleh Kalai, Nachum, Vempala dan Zhang memberikan bagian kedua dari penjelasan tersebut. Para penulis berpendapat bahwa prosedur pelatihan dan evaluasi cenderung memberi nilai lebih tinggi untuk tebakan daripada pengakuan atas ketidakpastian, karena model yang menebak mendapat skor lebih baik dalam banyak uji pembanding daripada model yang mengatakan tidak tahu. Dalam kerangka pemikiran mereka, model dioptimalkan agar mahir mengerjakan tes. Apa pun mekanisme pastinya, pelajaran praktis bagi karyawan tetap sama: keyakinan yang ditunjukkan alat tersebut sama sekali tidak menunjukkan apakah suatu pernyataan benar.

Halusinasi lebih mungkin terjadi ketika Anda menanyakan sesuatu yang kurang dikenal, baru terjadi, sangat spesifik, atau di luar materi yang Anda berikan: angka yang tepat, peran seseorang yang disebutkan namanya, kutipan, perkara pengadilan, atau harga produk saat ini. Kemungkinannya lebih kecil, meskipun tetap ada, ketika alat diminta bekerja hanya berdasarkan dokumen yang telah Anda tempelkan.

Seperti apa halusinasi AI di tempat kerja?

Di tempat kerja, halusinasi biasanya berupa perincian kecil dan spesifik yang terdengar benar. Daftar ini mencakup bentuk-bentuk yang paling sering ditemui karyawan. Belajar mengenali polanya membuat halusinasi lebih mudah ditemukan.

Apa yang terjadi jika halusinasi AI tidak terdeteksi?

Contoh publik yang paling dikenal adalah Mata v. Avianca, yang diputus oleh Pengadilan Distrik AS untuk Distrik Selatan New York pada 22 Juni 2023. Para pengacara mengajukan dokumen pengadilan yang memuat putusan yang tidak pernah ada, dengan kutipan dan rujukan palsu yang dibuat oleh ChatGPT. Pengadilan menyatakan adanya iktikad buruk dan menjatuhkan sanksi sebesar 5,000 dolar AS kepada para pengacara dan firma mereka secara tanggung renteng, serta mewajibkan mereka menulis kepada klien dan para hakim yang namanya dicatut dalam putusan rekaan tersebut. Dalam mempertimbangkan sanksi, pengadilan mencatat bahwa firma tersebut telah mengadakan pendidikan hukum berkelanjutan wajib bagi pengacara dan stafnya tentang kompetensi teknologi dan alat AI: dengan kata lain, pelatihan setelah kejadian.

Pelajarannya bukan bahwa pengacara ceroboh. Pelajarannya adalah bahwa rujukan palsu terlihat persis seperti rujukan asli, dan orang yang mengandalkannya melewatkan satu langkah yang seharusnya dapat mengungkapnya: membuka sumbernya. Sebagian besar halusinasi di tempat kerja lebih kecil, seperti tanggal pengiriman yang salah dalam email pelanggan atau statistik rekaan dalam presentasi penawaran, tetapi kegagalannya sama.

Apakah halusinasi AI masih menjadi masalah?

Ya. Penyedia telah menambahkan fitur yang membantu, seperti pencarian web dengan rujukan dan kemampuan menjawab berdasarkan berkas yang diunggah, tetapi tidak ada yang mengklaim telah menghilangkan halusinasi. Dokumentasi Anthropic sendiri untuk Claude menyatakan bahwa teknik yang direkomendasikannya mengurangi halusinasi tetapi tidak menghilangkannya sepenuhnya, serta menyarankan verifikasi informasi penting, terutama untuk keputusan berisiko tinggi. Halaman bantuan Google untuk Gemini di Gmail dan Spreadsheet memperingatkan bahwa fitur Gemini dapat menyarankan informasi yang tidak akurat atau tidak sesuai.

Sikapi dengan skeptis setiap pernyataan bahwa suatu alat tidak lagi berhalusinasi. Pertanyaan yang lebih tepat adalah tugas mana yang dapat ditangani alat tertentu dengan cukup andal, dengan pemeriksaan apa, untuk kebutuhan Anda.

Bagaimana Anda dapat mengurangi halusinasi AI?

Anda mengurangi halusinasi dengan membatasi hal-hal yang harus dikarang oleh alat: berikan sumbernya, instruksikan agar hanya menggunakan sumber tersebut, izinkan alat mengatakan bahwa ia tidak tahu, dan minta bukti untuk setiap klaim. Teknik-teknik di bawah ini berasal dari panduan penyedia, termasuk dokumentasi Anthropic tentang cara mengurangi halusinasi, yang disesuaikan untuk pekerjaan nonteknis. Tidak satu pun menghilangkan perlunya pemeriksaan.

Contoh instruksi yang menggabungkan beberapa teknik: Dengan hanya menggunakan teks kebijakan di bawah ini, cantumkan tiga aturan yang berlaku untuk perjalanan staf yang dipesan dalam waktu 48 jam sebelum keberangkatan. Untuk setiap aturan, kutip kalimat sumbernya secara persis. Jika ada hal yang tidak dicakup kebijakan, tulis Tidak disebutkan. Jangan gunakan pengetahuan umum.

Seperti apa mendeteksi halusinasi AI dalam praktiknya?

Bayangkan distributor perlengkapan gigi fiktif dengan 25 karyawan, Northgate Supply. Seorang koordinator penjualan menempelkan kebijakan pengembalian perusahaan sepanjang dua halaman dan bertanya kepada asisten: Berapa batas waktu pengembalian produk yang sudah dibuka, dan apakah ada biaya penanganan pengembalian? Kebijakan yang diberikan menyatakan bahwa barang yang belum dibuka dapat dikembalikan dalam 30 hari, sedangkan barang yang sudah dibuka hanya dapat dikembalikan jika cacat, dan tidak menyebutkan biaya penanganan pengembalian.

Jawaban pertama: Produk yang sudah dibuka dapat dikembalikan dalam 14 hari, dengan biaya penanganan pengembalian sebesar 15 persen. Kedua detail tersebut dikarang. Kebijakan itu sama sekali tidak menyebut 14 hari ataupun biaya. Keduanya terdengar masuk akal karena banyak kebijakan pengembalian memuat ketentuan tersebut. Justru begitulah jawaban yang secara statistik paling mungkin bisa keliru.

Koordinator mengajukan kembali pertanyaan dengan teknik di atas: gunakan hanya kebijakan, kutip kalimatnya, tulis Tidak disebutkan jika tidak ada. Jawaban kedua: Barang yang sudah dibuka: hanya dapat dikembalikan jika cacat (kutipan: Barang yang sudah dibuka hanya dapat dikembalikan jika produk cacat). Biaya penyetokan ulang: Tidak disebutkan. Jawaban tersebut dapat diperiksa dalam hitungan detik dengan merujuk pada dokumen, dan kekosongan informasi tentang biaya diteruskan kepada penanggung jawab kebijakan, bukan dimasukkan ke surel pelanggan.

Apa yang harus dilakukan karyawan setelah menemukan halusinasi AI?

Hapus atau perbaiki pernyataan yang salah, lalu tentukan apakah sudah ada orang yang mengandalkannya. Jika keluaran tersebut baru berupa draf, perbaiki dan lanjutkan, sambil mencatat dalam tinjauan Anda bahwa alat tersebut mengarang detail itu. Jika sudah dikirim, dibagikan, atau digunakan dalam pengambilan keputusan, beri tahu orang yang bertanggung jawab agar mereka dapat mengoreksinya. Jangan diam-diam memperbaiki dokumen yang sudah dibaca orang lain.

Memberi tahu rekan kerja tentang jenis pertanyaan yang menghasilkan kesalahan juga membantu. Tim yang berbagi contoh kesalahan belajar lebih cepat daripada tim yang setiap anggotanya menemukan kegagalan yang sama secara terpisah. Metode langkah demi langkah untuk memeriksa draf tersedia dalam panduan pemeriksaan fakta pada keluaran AI.

Kapan jawaban AI yang buruk bukan halusinasi?

Tidak semua jawaban yang buruk merupakan halusinasi, dan cara memperbaikinya berbeda-beda. Jika alat memberikan jawaban usang karena informasi berubah setelah pelatihannya, solusinya adalah sumber terkini. Jika jawabannya bias atau sepihak, masalahnya terletak pada cara membingkai persoalan dan keadilan, bukan informasi rekaan. Jika alat mengikuti instruksi yang samar hingga menghasilkan keluaran yang masuk akal tetapi tidak diinginkan, solusinya adalah arahan yang lebih baik. Dan jika seseorang sengaja menggunakan AI untuk menyesatkan, itu masalah perilaku, bukan pelatihan.

Panduan ini juga tidak dapat memastikan bahwa suatu alat aman untuk tugas tertentu yang berisiko tinggi. Untuk keputusan hukum, medis, keuangan, atau ketenagakerjaan tentang individu, gunakan peninjau yang berkualifikasi, terlepas dari bagaimana hasilnya dibuat.

Sumber dan cakupan

NIST, AI 600-1: Profil AI Generatif, July 2024 ↗

Kalai, Nachum, Vempala dan Zhang, Mengapa Model Bahasa Berhalusinasi, arXiv, 4 September 2025 ↗

Anthropic, dokumentasi Claude: Mengurangi halusinasi, diakses 16 Oktober 2026 ↗

Mata v. Avianca, Inc., 678 F.Supp.3d 443 (S.D.N.Y., 22 June 2023), salinan tersedia di situs CLLA ↗

Bantuan Gmail, Berkolaborasi dengan Gemini di Gmail, diakses 16 October 2026 ↗

Bantuan Editor Google Docs, Berkolaborasi dengan Gemini di Google Sheets, diakses 16 October 2026 ↗