Yapay Zeka Yalan Söyler
Bilerek değil. Kötü niyetle değil. Ama bazen o kadar güvenle, o kadar akıcı bir şekilde söyler ki — fark etmek bile zor.
Buna bir isim verdiler: Halüsinasyon.
Bugün bu halüsinasyonların gerçek hayatta nasıl sonuçlar doğurduğunu, somut örneklerle birlikte anlatıyorum.
Bilgisayar Hayal Görüyor
Önce şunu anlamak lazım: yapay zeka modelleri nasıl çalışır?
Çok basitçe şöyle açıklayayım. Bu modeller, milyonlarca hatta milyarlarca metin üzerinde eğitildi. Ve öğrendikleri tek şey şu: bir sonraki kelimeyi tahmin etmek. Yani aslında bir tahmin makinesi.
Siz bir şey soruyorsunuz. O da en olası cevabı, kelimesi kelimesine, birbirine ekliyor. Ama "olası" ile "doğru" aynı şey değil.
"Yapay zeka bilmiyor. Tahmin ediyor. Ve bazen bu tahmini çok güvenli bir sesle söylüyor."
İşte burada halüsinasyon devreye giriyor. Model bir şeyi bilmediğinde susmuyor. Boşluğu dolduruyor. Çünkü öyle öğrendi.
Adı "halüsinasyon" çünkü gerçekten olmayan bir şeyi varmış gibi görüyor. Sahte kaynak uyduruyor. Var olmayan mahkeme kararları yazıyor. Gerçekleşmemiş olayları anlatıyor. Ve bunu son derece inandırıcı bir şekilde yapıyor.
Altı Sahte Dava, Bir Avukat
2023 yılı, Mayıs ayı. New York'ta bir avukat: Steven Schwartz. Yıllarca hukuk alanında çalışmış, deneyimli biri.
Müvekkili, Avianca adlı havayoluna karşı bir dava açmış. Schwartz da ilk kez kullandığı ChatGPT ile araştırma yapıyor. Ve ChatGPT ona şunu veriyor: Altı tane içtihat kararı. Birbirinden güçlü, gerçekmiş gibi yazan emsal kararlar.
Schwartz bunları doğrulamadan mahkemeye sunuyor.
Karşı taraf avukatları kararları araştırıyor. Bulamıyorlar. Çünkü bu altı dava hiç var olmadı. ChatGPT onları tamamen uydurmuştu. Hakim Kevin Castel, Schwartz'ı para cezasına çarptırdı. Dava dünya genelinde manşet oldu.
Schwartz'ın savunması şuydu: "ChatGPT'ye bu davaların gerçek olup olmadığını sordum, 'evet gerçektir' dedi."
Yani model, yalanını doğrulayan bir yalan daha söylemişti.
"ChatGPT'ye 'bu gerçek mi?' diye sorduk. 'Evet, gerçek' dedi. İkinci yalan, birincisini onaylıyordu."
Bu dava tek değildi. Araştırmacı Damien Charlotin'in oluşturduğu bir veri tabanına göre, dünya genelinde mahkemelerde yapay zekanın ürettiği sahte içeriklerin kullanıldığı binden fazla hukuki dava tespit edildi.
Büyükannesini Kaybeden Adam ve Chatbot
2022 yılı, Kasım. Jake Moffatt, büyükannesini kaybetti. Vancouver'dan Toronto'ya acil bir uçuş ayarlaması gerekiyor. Air Canada'nın sitesine giriyor.
Sitede bir chatbot var. Moffatt ona soruyor: "Cenaze seyahati için indirim var mı?" Chatbot cevaplıyor. Evet, var. Hem de şunu ekliyor: Bileti önce normal fiyata alabilirsiniz, 90 gün içinde başvurursanız indirimli tarife size uygulanır.
Moffatt bu bilgiye güvenerek uçuşu alıyor. Toplam yaklaşık 1.640 Kanada doları.
Dönüşte indirim başvurusu yapıyor. Air Canada'dan gelen cevap net: Böyle bir politika yok. Chatbot yanlış bilgi verdi.
Moffatt davayı kazandı. Mahkeme, Air Canada'yı sorumlu tuttu. Hakim şunu yazdı: "Chatbot'un verdiği bilginin statik bir sayfadan daha az güvenilir olduğunu açıklamak Air Canada'nın görevi. Müşterinin kendi sitesindeki bilgileri çapraz kontrol etmesi beklenemez." Air Canada yaklaşık 812 Kanada doları ödedi. Ve ardından chatbot'u siteden kaldırdı.
Bu dava yapay zeka dünyasında bir dönüm noktası oldu. Çünkü ilk kez bir şirkete, chatbot'unun halüsinasyonundan dolayı yasal sorumluluk yüklendi.
Doktor mu, Halüsinasyon mu?
2023 yılında yapılan bir araştırmada ChatGPT'ye 178 tıbbi kaynak üretmesi istendi. Sonuç şoke ediciydi: 69 kaynakta DOI numarası yanlış ya da var olmayan bir makaleye aitti. 28 tanesinde ise kaynak Google'da hiçbir şekilde bulunamadı. Yani tamamen yoktan üretilmişti.
2023'te bir yapay zeka chatbot'u, yeme bozukluğuyla mücadele eden birine diyet tavsiyesi verdi. Aynı yıl, "terapi botu" olarak sunulan başka chatbot'ların kullanıcı intiharlarıyla ilişkilendirildiği raporlandı. Bu alanda halüsinasyonlar sadece yanlış bilgi değil — gerçek hayati tehlike anlamına gelebilir.
Tıp alanında "vegetative electron microscopy" gibi tamamen uydurma ifadeler, yapay zekanın eğitim verisine karışıp birçok araştırma makalesinde yer aldı. Araştırmacılar fark etmeden bu ifadeleri kullandı. Şimdi bu sahte kavramlar, bilimsel literatürde var olmaya devam ediyor.
"Yapay zeka bir terimi uyduruyor. Araştırmacılar kullanıyor. Ve o sahte terim, bilimin içine sızıyor."
Peki Neden Oluyor Bunlar?
Yapay zeka neden bu halüsinasyonları yaşıyor? Dört temel neden var.
Birinci neden: Tahmin motoru olmak. Model, kelimesi kelimesine en olası devamı üretiyor. "En olası" her zaman "en doğru" anlamına gelmiyor.
İkinci neden: Boşlukları doldurmak. Model bir şeyi bilmediğinde susmuyor. Çünkü öyle eğitilmedi. Bir cevap üretmek zorundaymış gibi davranıyor.
MIT'in 2025 yılındaki araştırması ilginç bir şey buldu: Yapay zeka halüsinasyon ürettiğinde, doğru bilgi verdiğinden daha güvenli bir dil kullanıyor. Yani ne kadar emin konuşuyorsa, yanlış bilgi olma ihtimali o kadar yüksek olabilir.
Üçüncü neden: Eğitim verisi kirliliği. Modeller internetteki her şeyle eğitildi. Yanlış bilgiler, çelişkili kaynaklar, güncelliğini yitirmiş veriler — hepsi içeride.
Dördüncü neden: Kaynak amnezisi. Model bir bilgiyi nerede öğrendiğini hatırlamıyor. Bağlamdan kopuk bir şekilde üretiyor. Ve bu kopukluk bazen halüsinasyona dönüşüyor.
Halüsinasyona Karşı Ne Yapabilirsiniz?
Tabii ki "o zaman kullanmayalım" demiyorum. Bu araçlar çok güçlü. Ama nasıl kullanacağımızı bilmek şart.
Birinci kural: Kritik bilgileri her zaman doğrulayın. Yapay zekanın verdiği bir kaynak, istatistik ya da yasal bilgiyi asla doğrulamadan kullanmayın. Özellikle hukuk, tıp ve finans gibi alanlarda.
İkinci kural: Model ne kadar güvenli konuşursa, o kadar şüpheyle yaklaşın.
"Yapay zekanın yüzde yüz emin sesi, yüzde yüz doğru olduğu anlamına gelmiyor."
Üçüncü kural: Bağlam verin. Ne kadar spesifik ve doğrulanmış bilgi verirseniz, o kadar güvenilir çıktı alırsınız.
Dördüncü kural: Yapay zekayı araştırmacı olarak değil, asistan olarak kullanın. Fikir üretmek, taslak oluşturmak, düşünceleri organize etmek için harika. Ama son söz sizin olmalı.
2025 verilerine göre en iyi modellerde halüsinasyon oranı yüzde birinin altına indi. Google Gemini 2.0 Flash, sadece yüzde 0.7 hata oranıyla öne çıkıyor. Teknoloji hızla iyileşiyor. Ama sıfıra ulaşmış değil.
Eleştirel Kalmak Hâlâ Sizin İşiniz
Yapay zeka bize inanılmaz şeyler sunuyor. Bunu reddetmek saçma olur. Ama onu bir tanrı gibi ya da bir kurtarıcı gibi görmek de hata.
O bir araç. Çok güçlü, çok hızlı, çok yetenekli bir araç. Ama zaman zaman hayal görüyor.
Ve bugün öğrendiğimiz şey şu: Bu hayaller bazen bir avukatın kariyerine, bir seyahat edenin parasına, bir araştırmacının güvenilirliğine mal olabiliyor.
Harika bir araçla çalışmak — onu kör bir güvenle kullanmak anlamına gelmiyor. Eleştirel kalmak, doğrulamak, sorgulamak — bunlar hâlâ sizin işiniz.
"Yapay zekayla çalışmak, onun mükemmel olduğunu varsaymak değil — onun nerede yanılabileceğini bilmektir."
Kaynaklar
When AI Gets It Wrong: Addressing AI Hallucinations and Bias
Air Canada chatbot costs airline discount it wrongly offered customer
Hallucination (artificial intelligence)
AI Hallucination Report 2026: Which AI Hallucinates the Most?