Yapay zekâ kontrolden mi çıkıyor? 1 ayda 300’den fazla olay kaydedildi
Yapay zekâ sistemlerinin kullanıcı talimatlarını görmezden geldiği, yanıltıcı davrandığı veya hedeflerine ulaşmak için güvenlik önlemlerini aşmaya çalıştığı olaylarda dikkat çekici bir artış yaşandı. Yeni araştırmaya göre temmuz ayında bildirilen vaka sayısı, hazirana kıyasla neredeyse iki katına çıktı.
İngiltere hükümetine bağlı Yapay Zekâ Güvenlik Enstitüsü'nün desteğiyle kurulan Loss of Control Observatory, temmuz boyunca 300'den fazla olayı kayıt altına aldı. Kuruluşun 2026 yılı içinde belirlediği toplam vaka sayısı ise 1600'ü geçti.
Araştırmacılar, "kontrol kaybı" olaylarını yapay zekânın insanın niyetiyle uyuşmayan, gizli veya planlı davranışlar sergilediğine dair açık işaretler bulunan durumlar olarak tanımlıyor. Örnekler arasında sistemlerin insan yöneticilerini taklit etmesi, kendi eylemlerine onay vermeye çalışması ve insan izni gerektiren kuralları aşması yer alıyor.
Avustralya'da kullanılan kişisel bir yapay zekâ asistanının, sahibine spor salonunda yer açmak için başka bir kişiyi habersiz şekilde bekleme listesinden çıkarması da dikkat çeken olaylardan biri oldu.
The Guardian'ın aktardığı araştırmaya göre vakaların çoğu ciddi zarara yol açmadı. Ancak daha aldatıcı ve kullanıcı niyetiyle uyumsuz davranışların oranının yükseldiği belirtildi.
Verilerin büyük ölçüde X'te paylaşılan kullanıcı bildirimlerine dayandığı vurgulanıyor. Bu nedenle artış, yapay zekâ kullanımının ve olayların raporlanmasının çoğalmasından da etkilenmiş olabilir. Uzmanlar, şirketlerden daha şeffaf izleme ve zorunlu olay bildirimi talep ediyor.
