Hallüsinasyon nedir?

Bir yapay zekâ modeli, bazen son derece akıcı ve kendinden emin bir dille gerçekle hiçbir ilgisi olmayan bilgi üretebilir; bu duruma hallüsinasyon denir. Bu derste hallüsinasyonun ne olduğunu, neden oluştuğunu, türlerini ve azaltma yollarını somut örneklerle işliyoruz. Serinin tamamına göz atmak istersen Yapay Zekâ dersleri sayfamızdan başlayabilirsin.

Hallüsinasyon Nedir?

Hallüsinasyon, üretken yapay zekâ modelinin gerçekçi görünen ama uydurma bilgi, kaynak, olay ya da sayı üretmesidir. Adını tıptaki halüsinasyon kavramından alır: model, olmayan bir şeyi varmış gibi anlatır. Tehlikeli olan yanı şudur: uydurma bilgi de gerçek bilgiyle aynı akıcılıkta ve aynı kendinden emin tonda sunulur; cümlenin içinde “bunu uydurdum” diye bir işaret bulunmaz. Bu davranış, metni olasılıksal biçimde tahmin ederek üreten üretken yapay zekâ modellerinin doğasından kaynaklanır; bir arıza ya da tesadüf değil, bu modellerin çalışma biçiminin bir sonucudur.

Yapay Zekâ Neden Hallüsinasyon Yapar?

Bunu anlamak için modelin nasıl çalıştığını hatırlamak gerekir. ChatGPT gibi büyük dil modelleri bir sonraki kelimeyi, eğitildiği verideki olasılıklara göre seçer; model bir şey “bilir” demez, bir cümlenin devamı için en olası kelimeleri üretir. Bu mekanizmanın ayrıntısını ChatGPT nasıl çalışır? dersinde işliyoruz. Hallüsinasyonun başlıca nedenleri şunlardır:

• Makul, doğrudan önce gelir: Modelin hedefi doğruluğu denetlemek değil, bağlama en uygun devamı üretmektir. Emin olmadığı bir soruda sessiz kalmak yerine olasılıksal olarak “uygun” görünen bir cevap kurar.
• Eğitim verisindeki boşluklar: Nadir ya da veride az temsil edilen konularda model, eksik bilgiyi muhtemel bir örüntüyle “tamamlar”.
• Eskiyen bilgi: Modelin bilgisi eğitim verisinin kesildiği tarihe aittir; o tarihten sonra değişen bilgileri eski hâliyle, kendinden emin biçimde verebilir.
• Yönlendirici sorular: “X neden Y'yi söyledi?” gibi yanlış bir varsayım taşıyan soruda model, böylesi bir söz gerçekten geçmemiş olsa bile varsayımı kabul edip devam edebilir.
• Doğrulama modülünün yokluğu: Model, ürettiği cümleyi doğruluk testinden geçiren bir iç denetime sahip değildir; cevabı tek seferde, akış hâlinde üretir.

Hallüsinasyon Türleri ve Gerçek Örnekler

Hallüsinasyon her zaman “yanlış tarih vermek” değildir. Karşılaşabileceğin başlıca türler şunlardır:

• Olgusal hata: Yanlış tarih, yanlış kişi ya da yanlış sonuç söylemek; örneğin bir yazarın ölüm yılını birkaç yıl kaydırmak.
• Uydurma kaynak: Var olmayan kitap, makale, yazar, dava ya da bağlantı üretmek. En bilinen gerçek örneklerden biri: 2023'te ABD'de bir hukuk ekibi, ChatGPT'nin verdiği emsal kararlarla dilekçe sundu; kararların gerçekte var olmadığı mahkemede ortaya çıktı ve ekibe yaptırım uygulandı.
• Çelişki ve hesap hatası: Aynı cevabın içinde birbiriyle tutarsız bilgi vermek ya da uzun hesaplarda yanlış sonuca ulaşmak.
• Kaynağa aykırılık: Verilen bir metni özetlerken, metinde olmayan bilgiyi sanki metinde varmış gibi eklemek.

Bu davranışın ne kadar erken fark edildiğini gösteren bir örnek daha: 2023 başında bir teknoloji şirketi, yeni sohbet modelini tanıttığı paylaşımda modelin teleskoplarla ilgili uydurma bir iddia içerdiği kullanıcılar tarafından hemen yakalandı. 2024-2025 döneminde arama destekli cevaplar ve akıl yürütme odaklı modellerle uydurma oranı belirgin biçimde azaldı; ancak hiçbir güncel modelde bu risk sıfır olmadı.

Hallüsinasyonu Nasıl Azaltılır?

Hallüsinasyonu tamamen yok etmek bugün için mümkün değil; ama doğru alışkanlıklarla ciddi ölçüde azaltabilirsin:

1. Modele kaynak ver: “Yalnızca bu belgeye dayanarak cevapla” demek, modelin bilgi boşluğunu hayalle doldurmasını engeller. Kurumların sohbet botlarının belge arşivine bağlı çalışması (RAG denilen yöntem) bu mantıkla işler.
2. Arama özelliğini kullan: Web araması yapabilen modeller güncel sorularda gerçek kaynaklara dayanır; uydurma olasılığı düşer ama sıfırlanmaz.
3. İyi soru sor: Kapsamı daralt (“Yalnızca 2020 sonrasındaki düzenlemeleri söyle”) ve modele çıkış yolu bırak (“Emin değilsen bilmediğini söyle”). Soru yazımının gücünü Prompt nedir? ve Prompt engineering derslerinde ayrıntılı işliyoruz.
4. Kaynakları gerçekten aç: Modelin verdiği linki ve kaynak adını görmezden gelme; kaynağın var olduğunu ve gerçekten o bilgiyi içerdiğini kontrol et.
5. Kritik bilgiyi ikinci yerden doğrula: Sağlık, hukuk, finans ve akademik konularda cevabı tek başına yeterli sayma; resmî kaynakla ya da ikinci bir modelle karşılaştır.

Ayrıca sohbet uzadıkça modelin önceki bilgileri “kaydırması” da hatalara yol açabilir; bu bağlam sınırının teknik açıklamasını Context window nedir? dersinde bulabilirsin.

Sık Yapılan Yanılgılar

• “Yapay zekâ bana kasıtlı yalan söylüyor.” Hayır. Modelin yalan söyleme niyeti yoktur; doğruluğu değil olasılığı hesaplar. Sonuç yanlış olsa da bu bilinçli bir çaba değildir.
• “Modeller geliştikçe hallüsinasyon tamamen bitecek.” Yeni modeller belirgin biçimde daha az uyduruyor; ama olasılıksal üretim sürdüğü sürece risk sıfırlanmıyor, doğrulama alışkanlığı şart.
• “İnternete bağlı model uydurmaz.” Arama uydurmayı azaltır; ancak model arama sonuçlarını yanlış okuyabilir ya da gelen bilgiyi kendi tahminiyle harmanlayabilir.
• “Cevap akıcı ve kendinden eminse doğrudur.” Dil kalitesi ile doğruluk bağımsızdır; en akıcı cümle baştan sona uydurma olabilir.
• “Kaynak gösterdiyse güvenebilirim.” Kaynak adı ve linki de uydurulabilir; kaynağı açıp kontrol etmek kullanıcının işidir.

Son bir pratik öneri: Modellerin uydurma eğilimi birbirinden farklıdır; hangi modeli hangi iş için kullanacağına karar verirken yapay zekâ modeli karşılaştırma rehberimize göz at. Unutma: yapay zekâ taslak ve fikir üretmede güçlü bir yardımcıdır ama doğrulanmış bir bilgi kaynağı değildir.