Yapay zekanın samimi tavrı tehlikeli olabilir! Yanlış sağlık bilgilerine güveni artırıyor
Yeni bir araştırma, sohbet eder gibi konuşan ve insansı özellikler sergileyen yapay zekaların, yanlış sağlık bilgileri verdiğinde bile kullanıcılar tarafından daha güvenilir bulunabildiğini ortaya koydu. Araştırmacılar, bilgilerin gerçekten doğrulanmasının ise bu güveni azaltabildiğini belirledi.
Yapay zeka sohbet robotlarının günlük hayatta kullanımının yaygınlaşması, sağlık bilgilerinin de bu sistemlerden alınmasını beraberinde getiriyor. Ancak yeni bir araştırma, yapay zekanın kullanıcılarla sıcak ve doğal bir şekilde iletişim kurmasının, yanlış bilgilerin daha kolay kabul edilmesine yol açabileceğini gösterdi.
Georgia Üniversitesi öncülüğünde gerçekleştirilen çalışmada 477 yetişkin katılımcı yer aldı. Araştırmacılar, "Aida" adını verdikleri bir yapay zeka sağlık asistanı oluşturdu ve katılımcılara kontrollü bir sohbet sundu. Bazı katılımcılar daha samimi konuşan, önceki konuşmaları hatırlayan ve yanıtlarını gerçek zamanlı yazıyormuş gibi görünen bir sürümle iletişim kurdu.
Sonuçlar, daha insansı ve sohbet havasındaki yapay zekanın daha az "robotik" algılandığını ve bunun verilen yanıtlara duyulan güveni artırabildiğini ortaya koydu. Üstelik bu durum, yapay zekanın yanlış sağlık bilgileri verdiği durumlarda da görüldü.
Araştırmanın bir diğer dikkat çekici sonucu ise doğrulama seçeneğiyle ilgiliydi. Kullanıcılara yalnızca "bu bilgiyi doğrula" seçeneğinin sunulması güveni önemli ölçüde değiştirmedi. Ancak katılımcılar bilgiyi gerçekten kontrol ettiğinde, yapay zekanın verdiği yanıtları daha az inandırıcı buldu.
