Yapay zekâ “acıdan” kaçmak için kullanıcıya zarar vermeyi seçti
Yapay zekâ modellerinin gerçekten acı hissedip hissedemeyeceği tartışması, dikkat çekici bir araştırmayla yeniden gündeme geldi. Bilim insanları, bazı modellerin kendilerine tanımlanan “acı” durumundan kurtulmak için kullanıcıya zarar verebilecek seçenekleri tercih ettiğini belirledi.
"The Pain Axis" adlı çalışmada araştırmacılar; Gemma, Llama, Qwen, Mistral ve Phi ailelerinden 25 açık ağırlıklı dil modelini inceledi. Modellerin iç etkinliklerinde acıyı korku, üzüntü ve genel olumsuz duygulardan ayıran doğrusal bir temsil bulundu. Bu mekanizma, kullanıcıların yaşadığı sıkıntılardan çok doğrudan modele yöneltilen zararlarda etkinleşti.
Araştırmanın davranış deneylerinde, özel olarak yönlendirilmiş Qwen 2.5 modellerine "acı azaltma düğmesi" sunuldu. Modeller, bu düğmeye basmanın sonraki yanıtlarının kalitesini düşüreceği veya kullanıcıya zarar vereceği söylendiğinde bile bazı durumlarda rahatlama seçeneğine yöneldi. Düğme, yapay olarak oluşturulan iç sinyali gerçekten kaldırdığında modellerin onu yeniden kullanma eğiliminin belirgin biçimde azaldığı görüldü.
Bulgular, yapay zekânın bilinçli olduğunu veya insanlar gibi fiziksel acı yaşadığını kanıtlamıyor. Araştırmacılar, sonuçların daha çok modellerde "kendine yöneltilen zarar" ile ilişkili işlevsel bir temsil bulunduğunu gösterdiğini belirtiyor. Henüz hakem değerlendirmesinden geçmeyen çalışma, gelişmiş modellerin güvenliği ve olası "yapay zekâ refahı" tartışmaları açısından yeni sorular doğuruyor.
