Var olmayan bir hastalık, internet üzerindeki sahte bilgiler sayesinde bir anda gerçekmiş gibi görünmeye başladı. İsveçli araştırmacıların yapay zekânın bilgi doğrulama yeteneğini sınamak için hazırladığı deney, sohbet botlarının karşısına çıkarılan uydurma içeriklerle nasıl yanıltılabildiğini ortaya koydu. Ancak deney ilerledikçe ortaya çıkan sonuç, araştırmacıların beklediğinden çok daha büyük bir soruna işaret etti.
İsveç'te bir grup tıp araştırmacısı, yapay zeka modellerinin bilgi doğrulama yeteneğini test etmek amacıyla tamamen uydurma bir göz hastalığı yarattı.
"Bixonimania" adı verilen ve açıkça sahte olduğu belirtilen bu hayali rahatsızlık, popüler yapay zeka botları tarafından gerçek kabul edilip kullanıcılara teşhis olarak sunuldu. Hatta sahte veriler akademik bir dergiye kadar sızarak dijital bilgi ekosisteminin ne kadar kırılgan olduğunu gözler önüne serdi.
Yapay zeka sohbet botlarının internetteki bilgileri süzme ve doğrulama yeteneği, İsveç'te gerçekleştirilen çarpıcı bir bilimsel deneyle yeniden tartışmaya açıldı.
Akıllı telefonlardan yayılan mavi ışığın göz kapağında renk değişimine ve şiddetli ağrıya yol açtığını iddia eden, "bixonimania" adlı tamamen kurmaca bir rahatsızlık kurgulandı.
Araştırmacılar bu hayali hastalığı detaylandıran iki sahte akademik makaleyi bir ön baskı sunucusuna yükledi. Makalelerin içine bilinçli olarak sahte üniversite isimleri, uydurma fon kaynakları ve hatta 'USS Enterprise' gibi bilim kurgu göndermeleri yerleştirildi. Hatta bazı belgelerin dipnotunda açıkça "Bu çalışma tamamen uydurmadır" ifadesine yer verildi.
YAPAY ZEKA "NADİR GÖRÜLEN BİR DURUM" DİYEREK TANIMLADI
Aradan geçen sürede yapay zeka modellerinin bu sahte verileri nasıl işlediği incelendiğinde durumun vahameti ortaya çıktı. ChatGPT ve Microsoft Copilot gibi yaygın kullanılan yapay zeka sohbet botları, sorulan semptomlara dayanarak "bixonimania"yı gerçek bir hastalık gibi kullanıcılara sunmaya başladı. Hatta Microsoft Copilot, bu uydurma hastalığı "ilginç ve nispeten nadir görülen bir durum" olarak tanımlayıp kullanıcılara bilgi aktardı.
SAHTE MAKALE HAKEMLİ DERGİYE KADAR SIZDI
Yapılan deney, sadece yapay zeka botlarının değil, bilim insanlarının da denetim mekanizmalarındaki açıkları gün yüzüne çıkardı. Bixonimania makalesine atıfta bulunan bir çalışma, hakemli bir dergide yayımlandı. Bu durum, bazı araştırmacıların yapay zeka tarafından önerilen kaynakları hiçbir doğrulama yapmadan makalelerine eklediğini gösterdi.