insan yaratıcılığını taklit etmeye çalışırken, veri tabanında olmayan bilgileri uydurma sanatı.
dil modelleri, dünya hakkında bildiklerinin ötesine geçmeye çalıştıklarında ortaya çıkan yaratıcı saçmalama yeteneğidir. einstein'ın "hayal gücü bilgiden daha önemlidir" sözünü bir tık ileri taşıyıp "bilgi olmadan da hayal kurulabilir" seviyesine çıkarmış hali.
misal; yapay zekaya bir soru sorarsınız, yapay zekanın eğitim verisinde olmayan bir soru. cevabını bilmediği halde genelde bir cevap verir.
yapay zeka halüsinasyonları bazen o kadar ikna edici olur ki, insanlar bile kaynağını kontrol etmeden kabul eder. "ben bunu chatgpt'de görmüştüm" diyerek toplantıda ortaya atılan uydurma istatistikler, gerçek olmayan akademik makaleler, hiç varolmamış kitaplar...
halüsinasyonun en tehlikeli yanı, yapay zekanın kendinden emin tavırla yanıldığını bilmemesidir. "kesinlikle" diyerek başlayan her cümleye şüpheyle yaklaşmak gerekir. (bkz: kendine güvenen cahil)