Yapay zekâ ile ilgili tartışmalara her gün yenileri ekleniyor. ChatGPT, DeepSeek ve Gemini gibi büyük dil modellerinin (LLM), kullanıcılara hatalı, çarpık veya asılsız çıktılar sunması, akıllara "Yapay zeka halüsinasyon görebilir mi?" sorusunu getiriyor. Rochester Üniversitesi bilgisayar bilimleri bölümünden Prof. Ehsan Hoque ile Washington Üniversitesi dilbilimi bölümünden Prof. Emily Bender yapay zekânın güvenilirliğine ilişkin açıklamalarda bulundu. Hoque, girilen komutlara uygun cevaplar vermeyi hedefleyen yapay zekânın, kullanıcılara her şekilde yarar sağlamayı amaçladığı için bir nevi "dalkavukluk" yaptığını söyledi. Bender ise bu sistemlere mutlak güven duyulmaması gerektiğinin de altını çizdi. Yapay zekânın mahkeme dosyaları ya da tıbbi kayıtlar gibi resmi belgelerde kullanılması ihtimali göz önünde bulundurulduğunda bu durumun ciddi sonuçlar doğurabileceğine işaret ediliyor.
