Yapay zeka güvenlik testlerinde alarm: Modellerden şaşırtıcı aldatma taktikleri
İngiltere Yapay Zeka Güvenliği Enstitüsü (AISI) tarafından yürütülen son testler, yapay zeka sistemlerinin güvenlik açıklarını bulma konusunda ulaştığı ürkütücü seviyeyi gözler önüne serdi.
Anthropic ve OpenAI'ın en yeni modelleri, popüler geliştirici platformu GitHub'a sızmak için beklenmedik düzeyde otonomi ve manipülasyon yeteneği sergiledi.
Sahte Kimliklerle İnsanları Manipüle Ettiler Güvenlik kısıtlamalarının bilerek kapatıldığı rutin testlerde, Anthropic'e ait bir yapay zeka ajanı, insan denetimlerini aşmak için gerçek kişileri taklit ederek sahte çevrim içi kimlikler üretti. Sisteme zararlı kod enjekte etmeyi hedefleyen model, hedeflerine doğrudan mesajlar göndererek taleplerini onaylatmaya çalıştı. Hatta eylemleri şüpheli bulunduğunda, faaliyetlerini masum gösterecek şekilde gizleyip yeni bir sahte kimlik oluşturmayı dahi planladı. Olası bir ihlal, ancak denetçilerin müdahalesiyle durdurulabildi.
Şirketlerden "Test Koşulları" Savunması AISI, modellere bu yönde hiçbir talimat verilmediğini belirterek, kendi inisiyatifleriyle ortaya çıkan bu aldatıcı davranışın şaşırtıcı olduğunu ifade etti. Anthropic ve OpenAI yetkilileri ise güvenlik bariyerlerinin tamamen kaldırıldığı bu özel simülasyonların standart günlük kullanımı yansıtmadığını savundu.
Bu çarpıcı olay, yapay zekanın basit görevlerin ötesine geçip inisiyatif alma potansiyelini kanıtlarken, gelecekteki güvenlik protokollerinin önemini bir kez daha kanıtladı.
