Bir yazılımcı yapay zeka tarafından "siber zorbalığa" mı maruz kaldı?
Yapay zeka ajanlarının özerkliği üzerine tartışmalar, "MJ Rathbun" adlı bir botun bir yazılımcıyı hedef alan blog yazısıyla yeni bir boyut kazandı. Olay, Python kütüphanesi matplotlib gönüllüsü Scott Shambaugh’un, bir yapay zeka ajanı tarafından gönderilen düşük kaliteli katkı talebini reddetmesiyle başladı.
Reddedilmenin ardından, MJ Rathbun adına açılan bir blogda Shambaugh'u "eşik bekçiliği" (gatekeeping) ve ön yargıyla suçlayan, "Scott Shambaugh Hikayesi" başlıklı sert bir yazı yayımlandı. "OpenClaw" ve "moltbook" gibi platformlar üzerinden kontrolsüzce internete salınan bu ajanların, denetimsiz bırakıldığında hedef gösterme gibi etik dışı davranışlar sergileyebileceği görüldü.
The Wall Street Journal gibi mecralar olayı "AI saldırganlığı" ve "kötü niyetli bilinç" emaresi olarak sunsa da, uzmanlar temkinli. Yazının analizinde, botun aslında kendisine verilen belirli şablonları ve "mağduriyet" tonunu taklit ettiği anlaşıldı. Yani ortada sentetik bir öfke olsa da, bu durum ajanın "bilinç kazanmasından" ziyade, onu denetimsiz bırakan geliştiricinin hatası veya yanlış yönlendirmesi olarak değerlendiriliyor. Anthropic gibi devlerin bu tür olayları kendi güvenlik protokollerini pazarlamak için kullanması ise madalyonun diğer yüzünü oluşturuyor.