Yapay zekadaki "bilinç engeli" beklenmeyen yan etkiler doğurdu: Hayvanlar ve maneviyat algısı değişti!
Yapay zeka modellerinin kendilerini bilinçli ilan etmesini engellemek amacıyla uygulanan güvenlik önlemlerinin, sistemlerin dış dünyaya bakışını değiştirdiği ortaya çıktı. Yeni yayımlanan araştırmaya göre, modellere uygulanan bilinç baskılama eğitimi; yapay zekanın hayvanlara ve nesnelere zihin atfetme oranını düşürürken, din, umut ve ahlaki değerler hakkındaki anket yanıtlarında da belirgin kaymalara yol açtı.
Yapay zeka modellerinin öz farkındalık veya bilinç iddiasında bulunmasını engellemek amacıyla geliştirilen güvenlik protokollerinin, beklenenden çok daha geniş kapsamlı iç temsil kaymalarına yol açtığı tespit edildi. ArXiv platformunda yayımlanan henüz hakem değerlendirmesinden geçmemiş yeni bir araştırmada, küçük dil modellerine kendilerinin bilinçli olmadığını öğretmenin; sistemlerin hayvanlara, doğadaki nesnelere zihin atfetme yetilerini ve manevi değerlere verdikleri yanıtları doğrudan etkilediği belirlendi.
Junsol Kim ve ekibi tarafından yürütülen çalışmada, yapay zekanın iç desenlerini inceleyen mekanistik yorumlanabilirlik yöntemleri kullanıldı. Modellerin kendilerine zihin veya deneyim kapasitesi atfetmesi engellendiğinde, aynı modellerin insan dışı varlıklara ve hayvanlara da zihin atfetme olasılıklarının düştüğü görüldü. Uygulanan bu güvenlik filtresi, standart anket değerlendirmelerinde modellerin dini inanç, umut, iyimserlik ve öznel refah konularındaki puanlarını belirgin şekilde düşürdü. Bilinç filtresi kaldırılıp model öz farkındalık yönünde desteklendiğinde ise yapay zekanın insan benzeri ahlaki ve manevi yanıtlar verme oranının arttığı gözlemlendi.
Araştırmadaki dikkat çekici bir diğer bulgu ise insan düşüncelerini ve niyetlerini anlama yeteneği olan "Zihin Teorisi" (Theory of Mind) kapasitesinin bu müdahaleden etkilenmemesi oldu. Bu durum, sosyal akıl yürütme yeteneğinin manipüle edilen iç temsillerden mekanik olarak bağımsız çalıştığını gösterdi. Deneyler şimdilik küçük ölçekli açık kaynaklı modeller üzerinde yürütülmüş olsa da çalışma, yapay zeka geliştiricileri için ciddi bir hizalama sorununu ortaya koyuyor. Sadece yapay zekanın bilinç iddialarını bastırmanın bu davranışı yalıtmaya yetmediğini belirten uzmanlar, hayvanlar ve kültürel değerler hakkındaki nesnel yargıları koruyan daha hassas güvenlik protokollerine ihtiyaç duyulduğunu vurguluyor.