Yapay zeka halüsinasyonu nedir?
Yapay zeka halüsinasyonu, üretken bir yapay zeka aracının kendinden emin biçimde sunduğu ancak yanlış, uydurma veya kendisine verilen girdilerle desteklenmeyen çıktıdır. NIST'in Üretken Yapay Zeka Profili aynı durum için konfabulasyon terimini kullanır ve bunu, üretken sistemlerin hatalı veya yanlış içerik üretip kendinden emin biçimde sunması olarak tanımlar. NIST bu tanıma, istemden veya diğer girdilerden sapan ya da aynı konuşmada daha önce söylenenlerle çelişen çıktıları da dahil eder.
Halüsinasyon sözcüğü bir benzetmedir ve biraz da yanıltıcıdır. Araç, olmayan şeyler görmez. Bağlama göre istatistiksel açıdan makul metinler üretir; makul görünen metinler de bazen yanlıştır. Bu yüzden bir halüsinasyon nadiren hata gibi görünür. Normal, iyi yazılmış bir yanıt gibi görünür.
ChatGPT neden halüsinasyon görür?
ChatGPT ve benzeri araçlar, doğrulanmış bilgileri bulup getirmek için değil, bir metnin olası devamını üretmek için tasarlandıklarından halüsinasyon üretir. NIST, gerçeğe aykırı bilgi üretimini üretken modellerin tasarım biçiminin doğal bir sonucu olarak tanımlar: Bu modeller, eğitim verilerinin istatistiksel dağılımını yaklaşık olarak modeller. Bu da doğru çıktılar üretebildiği gibi, olgusal açıdan yanlış veya tutarsız çıktılar da üretebilir. NIST, sorunun özellikle açık uçlu, uzun yanıtlar ve uzmanlık gerektiren sorular açısından önemli olduğunu belirtir.
Kalai, Nachum, Vempala ve Zhang tarafından 2025 yılında yayımlanan bir araştırma makalesi, açıklamanın ikinci bir boyutunu sunuyor. Yazarlar, eğitim ve değerlendirme süreçlerinin belirsizliği kabul etmek yerine tahminde bulunmayı ödüllendirme eğiliminde olduğunu savunuyor. Çünkü tahminde bulunan bir model, birçok karşılaştırmalı testte bilmediğini söyleyen bir modelden daha yüksek puan alıyor. Onların yaklaşımına göre modeller, sınavlarda başarılı olacak şekilde optimize ediliyor. İşleyiş tam olarak nasıl olursa olsun, bir çalışan için çıkarılacak pratik ders aynı: aracın kendinden emin olması, bir ifadenin doğru olup olmadığı hakkında hiçbir şey söylemez.
Az bilinen, yakın tarihli, çok özel veya sağladığınız materyalin dışında kalan bir şey sorduğunuzda halüsinasyon olasılığı artar: kesin bir rakam, adı belirtilen bir kişinin görevi, bir alıntı, bir dava veya bir ürünün güncel fiyatı. Araçtan yalnızca yapıştırdığınız belgeye dayanarak çalışması istendiğinde bu olasılık azalır, ancak yine de mümkündür.
Yapay zeka halüsinasyonları iş yerinde nasıl karşımıza çıkar?
İş ortamında halüsinasyonlar genellikle kulağa doğru gelen küçük, somut ayrıntılar biçiminde ortaya çıkar. Liste, çalışanların en sık karşılaştığı biçimleri kapsar. Bunları tanımayı öğrenmek, fark edilmelerini kolaylaştırır.
Uydurma kaynaklar
Gerçekte bulunmayan ya da var olduğu hâlde farklı bir şey söyleyen bir kaynak atfı, rapor başlığı, URL veya alıntı.
Uydurulmuş ayrıntılar
Sağladığınız materyalin hiçbir yerinde bulunmayan bir tarih, fiyat, yüzde, ad veya iş unvanı.
Kesinlik düzeyinin artırılması
Olasılığı kesinliğe veya önerilen bir tarihi onaylanmış bir tarihe dönüştüren özet.
Kanıtla desteklenmeyen nedenler
Bir sayının neden değiştiğine ilişkin, verilerin desteklemediği bir açıklama.
Uydurma akıl yürütme
Yanlış bir yanıta götüren, düzenli ve adım adım ilerleyen bir mantık yürütme. NIST, modellerin bazen yanıt yanlış olsa bile o yanıta ulaşan mantıksal adımlar sunduğunu belirtiyor.
Kendi içinde çelişme
Aracın birkaç mesaj önce söylediği bir şeyle çelişen bir ifade.
Bir halüsinasyon fark edilmezse ne olur?
Kamuoyunda en çok bilinen örnek, New York Güney Bölgesi ABD Bölge Mahkemesinin 22 Haziran 2023 tarihinde karara bağladığı Mata ile Avianca arasındaki davadır. Avukatlar, ChatGPT tarafından oluşturulmuş sahte alıntılar ve sahte atıflarla birlikte gerçekte var olmayan yargı kararlarını içeren bir mahkeme belgesi sundu. Mahkeme kötü niyet bulunduğuna hükmetti ve avukatlarla hukuk bürolarına müştereken ve müteselsilen 5,000 ABD doları yaptırım uyguladı. Ayrıca müvekkillerine ve isimleri uydurma kararlara gerçeğe aykırı biçimde eklenen yargıçlara yazı göndermelerini istedi. Mahkeme, yaptırımı değerlendirirken büronun avukatları ve çalışanları için teknolojik yetkinlik ve yapay zeka araçları konusunda zorunlu meslek içi hukuk eğitimi düzenlediğini belirtti: başka bir deyişle, olaydan sonra verilen eğitim.
Buradan çıkarılacak ders, avukatların dikkatsiz olduğu değildir. Uydurulmuş bir kaynak atfının gerçek bir atıfla tamamen aynı göründüğü ve ona güvenen kişinin, hatayı ortaya çıkaracak tek adımı atladığıdır: kaynağı açmak. İş yerindeki yapay zeka halüsinasyonlarının çoğu daha küçük çaplıdır; örneğin bir müşteri e-postasında yanlış teslimat tarihi veya bir sunumda uydurulmuş bir istatistik. Ancak hata aynıdır.
Bunun bir iş rolüyle nasıl bağlantılı olduğunu görmek ister misiniz?
Planlanan ekip denemesini keşfedin ↗Yapay zeka halüsinasyonları hâlâ bir sorun mu?
Evet. Sağlayıcılar, kaynak gösteren web araması ve yüklenen dosyalara dayanarak yanıt verme gibi yardımcı özellikler ekledi. Ancak hiçbiri halüsinasyonları ortadan kaldırdığını iddia etmiyor. Anthropic'in Claude için hazırladığı kendi belgeleri, önerilen tekniklerin halüsinasyonları azalttığını ancak tamamen ortadan kaldırmadığını söylüyor ve özellikle önemli sonuçlar doğurabilecek kararlarda kritik bilgilerin doğrulanmasını öneriyor. Google'ın Gmail ve E-Tablolar içindeki Gemini için hazırladığı yardım sayfaları, Gemini özelliklerinin yanlış veya uygunsuz bilgiler önerebileceği konusunda uyarıyor.
Bir aracın artık halüsinasyon üretmediğine ilişkin her iddiaya şüpheyle yaklaşın. Daha doğru soru, belirli bir aracın sizin amacınız için hangi görevleri, hangi kontrollerle yeterince güvenilir biçimde yerine getirdiğidir.
Yapay zeka halüsinasyonlarını nasıl azaltabilirsiniz?
Aracın kendi başına üretmek zorunda olduğu bilgiyi sınırlandırarak halüsinasyonları azaltabilirsiniz: kaynağı verin, yalnızca o kaynağı kullanmasını söyleyin, bilmediğini söylemesine izin verin ve her iddia için kanıt göstermesini isteyin. Aşağıdaki teknikler, Anthropic'in halüsinasyonları azaltmaya ilişkin belgeleri de dahil olmak üzere sağlayıcıların rehberlerinden alınmış ve teknik olmayan işlere uyarlanmıştır. Hiçbiri kontrol etme gereğini ortadan kaldırmaz.
Birkaç tekniği birleştiren örnek istem: Yalnızca aşağıdaki politika metnini kullanarak, hareket saatinden önceki 48 saat içinde rezervasyonu yapılan personel seyahatleri için geçerli olan üç kuralı listele. Her kural için dayandığı cümleyi aynen alıntıla. Politikanın kapsamadığı bir konu varsa Belirtilmemiş yaz. Genel bilgilerini kullanma.
Kaynağı sağlayın
Araca ne bildiğini sormak yerine belgeyi yapıştırın veya ekleyin. Kaynak materyale dayanan görevlerde, açık uçlu sorulara kıyasla daha az hata olur.
Kaynakla sınırlı tutun
Yalnızca sağlanan materyalin kullanılmasını, genel bilgiden yararlanılmamasını açıkça belirtin.
Bilmemenin kabul edilebilir olduğunu gösterin
Boşlukları doldurmak yerine Belirtilmemiş veya Yeterli bilgim yok yazmasını söyleyin.
Alıntılar isteyin
Uzun belgelerde, önce ilgili cümleleri aynen çıkarmasını, ardından bu alıntılara dayanarak yanıt vermesini isteyin.
İddialarını kontrol etmesini sağlayın
Taslağı hazırladıktan sonra, her iddiayı destekleyen bir alıntı bulmasını ve destekleyemediği iddiaları çıkarmasını isteyin.
Daha dar kapsamlı sorular sorun
Her seferinde tek bir somut sorunun yanıtını doğrulamak, uzun ve açık uçlu bir metni doğrulamaktan daha kolaydır.
Çalıştırmaları karşılaştırın
Aynı soruyu iki kez sorun. Yanıtlar bir olgu hakkında çelişiyorsa o olguyu doğrulanmamış kabul edin.
Yapay zeka halüsinasyonunu tespit etmek uygulamada nasıl olur?
25 kişilik hayali bir diş hekimliği malzemeleri dağıtıcısı olan Northgate Supply'ı düşünün. Bir satış koordinatörü, şirketin iki sayfalık iade politikasını yapıştırıp bir asistana şu soruyu soruyor: Açılmış ürünlerde iade süremiz nedir ve yeniden stoklama ücreti alınıyor mu? Verilen politikada, açılmamış ürünlerin 30 gün içinde, açılmış ürünlerin ise yalnızca kusurlu olmaları halinde iade edilebileceği belirtiliyor. Yeniden stoklama ücretinden hiç söz edilmiyor.
İlk yanıt: Açılmış ürünler, yüzde 15 yeniden stoklama ücreti uygulanarak 14 gün içinde iade edilebilir. Her iki ayrıntı da uydurma. Politikada ne 14 günden ne de bir ücretten söz ediliyor. Pek çok iade politikasında yer aldıkları için makul görünüyorlar; istatistiksel olarak olası bir yanıt tam da böyle yanlış sonuç veriyor.
Koordinatör, yukarıdaki tekniklerle soruyu yeniden sorar: yalnızca politikayı kullan, ilgili cümleyi alıntıla, bilgi yoksa Belirtilmemiş yaz. İkinci yanıt: Açılmış ürünler: yalnızca kusurluysa iade edilebilir (alıntı: Açılmış ürünler yalnızca ürünün kusurlu olması durumunda iade edilebilir). Yeniden stoklama ücreti: Belirtilmemiş. Bu yanıt belgeyle karşılaştırılarak saniyeler içinde kontrol edilebilir. Ücretlerle ilgili eksiklik ise bir müşteri e-postasına girmek yerine politikadan sorumlu kişiye iletilir.
Bir çalışan halüsinasyon tespit ettiğinde ne yapmalı?
Yanlış ifadeyi kaldırın veya düzeltin, ardından herhangi birinin bu ifadeyi esas alarak hareket edip etmediğini belirleyin. Çıktı yalnızca taslak aşamasındaysa düzeltip devam edin ve incelemenizde aracın bu ayrıntıyı uydurduğunu belirtin. Çıktı zaten gönderilmiş, paylaşılmış veya bir kararda kullanılmışsa sorumlu kişiye haber verin ki düzeltme yapabilsin. Başkalarının zaten okuduğu bir belgeyi sessizce değiştirip geçmeyin.
Hangi tür soruların hataya yol açtığını iş arkadaşlarınıza söylemek de yararlıdır. Nelerin yanlış gittiğine dair örnekleri paylaşan bir ekip, herkesin aynı hatayı ayrı ayrı keşfettiği bir ekipten daha hızlı öğrenir. Bir taslağı adım adım kontrol etme yöntemi, yapay zeka çıktılarındaki bilgileri doğrulama rehberinde yer alır.
Kötü bir yapay zeka yanıtı ne zaman halüsinasyon sayılmaz?
Her kötü yanıt bir halüsinasyon değildir ve çözüm de duruma göre değişir. Bilgiler aracın eğitiminden sonra değiştiği için araç güncelliğini yitirmiş bir yanıt veriyorsa çözüm, güncel bir kaynaktır. Önyargılı veya tek taraflı bir yanıt veriyorsa sorun uydurma değil, konunun çerçevelenişi ve adilliktir. Belirsiz bir istemi izleyerek makul ama istenmeyen bir sonuç üretiyorsa çözüm, daha net bir talimattır. Birisi yapay zekayı kasıtlı olarak yanıltmak için kullanıyorsa bu bir eğitim değil, davranış meselesidir.
Bu rehber, belirli bir aracın ciddi sonuçlar doğurabilecek belirli bir görev için güvenli olduğunu da söyleyemez. Kişilerle ilgili hukuki, tıbbi, mali veya istihdama yönelik kararlarda, çıktı nasıl üretilmiş olursa olsun yetkin bir incelemeciye başvurun.
Kaynaklar ve kapsam
NIST, AI 600-1: Üretken yapay zeka profili, July 2024 ↗
Kalai, Nachum, Vempala ve Zhang, Dil modelleri neden halüsinasyon üretir, arXiv, 4 September 2025 ↗
Anthropic, Claude belgeleri: Halüsinasyonları azaltma, erişim tarihi: 16 Ekim 2026 ↗
Gmail Yardım, Gmail'de Gemini ile ortak çalışma, erişim tarihi: 16 October 2026 ↗