Anthropic kurucusundan yapay zekâ için “kapatma düğmesi” çağrısı
Yapay zekâ sistemlerinin hızla güçlenmesi, teknoloji dünyasında güvenlik tartışmalarını yeniden alevlendirdi. Anthropic’in kurucu ortaklarından Jack Clark, tehlikeli hâle gelebilecek gelişmiş modeller için doğrulanabilir ve gerektiğinde zorunlu olarak kullanılabilecek bir “kapatma düğmesi” oluşturulmasını gündeme getirdi.
Clark, yapay zekânın kendi yeteneklerini insan müdahalesi olmadan geliştirebileceği bir aşamaya yaklaşmasından endişe duyuyor. Böyle bir eşik aşılırsa sistemlerin kontrol edilmesi veya durdurulması mevcut yöntemlerle çok daha zor hâle gelebilir.
Önerilen mekanizmanın yalnızca yazılıma eklenen basit bir düğmeden ibaret olmaması gerektiği belirtiliyor. Sistemin gerçekten çalıştığının bağımsız kurumlar tarafından doğrulanması ve şirketlerin gerektiğinde modellerini hızla devre dışı bırakabilmesi isteniyor. Ancak düğmeye kimin, hangi koşullarda basacağı konusu tartışmanın en kritik başlıkları arasında bulunuyor.
Anthropic CEO'su Dario Amodei de yapay zekâ sektörünün güvenlik önlemlerine zaman kazandırmak amacıyla gelişim hızını kontrollü biçimde yavaşlatması gerektiğini savunuyor. Amodei, gelişmiş modellerin piyasaya çıkmadan önce bağımsız uzmanlar tarafından kapsamlı şekilde test edilmesini destekliyor.
Uzmanlar, zorunlu kapatma mekanizmasının kötüye kullanım, siber saldırı ve kontrol kaybı gibi risklere karşı son savunma hattı olabileceğini düşünüyor. Buna karşılık bazı çevreler, teknolojiye aşırı müdahalenin bilimsel ilerlemeyi yavaşlatabileceği ve yetkinin birkaç kurumda toplanabileceği uyarısında bulunuyor.
