Google-Pentagon gizli anlaşması ortaya çıktı: Çalışanlar teknoloji devine karşı ayaklandı
ABD Savunma Bakanlığı’nın Google ile yapay zeka modellerini gizli çalışmalarda kullanmak üzere anlaşma yaptığı ortaya çıktı. Şirket içinde yüzlerce çalışan yönetime mektup yazarak isyan etti.
The Information haber sitesinin konuyla ilgili bilgi sahibi bir kişiye dayandırdığı haberinde ABD Savunma Bakanlığının (Pentagon), yapay zeka modellerini gizli çalışmalar için kullanmak üzere Alphabet bünyesindeki teknoloji şirketi Google ile anlaşma imzaladığı ifade edildi.
Anlaşmanın, Pentagon'un Google'ın yapay zekasını "hükümetin yasal amaçları için" kullanmasına izin verdiği belirtildi. Anlaşmanın, hükümetin talebi üzerine Google'ın yapay zeka güvenlik ayarlarını ve filtrelerini düzenlemeye yardımcı olmasını içerdiği aktarıldı.
Anlaşmada, "Taraflar, yapay zeka sisteminin uygun insan gözetimi ve kontrolü olmaksızın yurt içi kitlesel gözetim veya otonom silahlar (hedef seçimi dahil) için tasarlanmadığı ve kullanılmaması gerektiği konusunda mutabıktır" ifadeleri kullanıldı. Ancak anlaşmanın, Google'a yasal operasyonel karar alma süreçlerini kontrol etme veya veto etme hakkı vermediği de vurgulandı.
ÇALIŞANLAR İSYAN ETTİ
Google'da çalışan yaklaşık 600 kişi, CEO Sundar Pichai'ye şirketin yapay zeka araçlarının Pentagon tarafından gizli çalışmalarda kullanılmasına izin vermemesi çağrısında bulundu.
Yapay zeka projelerinde çalışanlar yazdıkları mektupta, "Bu teknolojiye olan yakınlığımızın, onun en etik dışı ve tehlikeli kullanımlarını vurgulama ve önleme sorumluluğu doğurduğunu düşünüyoruz. Bu nedenle yapay zeka sistemlerimizi gizli işler için kullanıma sunmayı reddetmenizi rica ediyoruz. Yapay zekanın insanlığa fayda sağlamasını ve insanlık dışı veya son derece zararlı şekillerde kullanılmasını istemiyoruz. Yapay zeka alanında çalışan kişiler olarak bu sistemlerin hata yapabildiğini biliyoruz" ifadelerini kullandı.
Mektupta, yapay zekanın nasıl kötüye kullanılabileceğine örnek olarak ölümcül otonom silahlar ve yaygın gözetim gösterildi. Bu aşamada alınacak yanlış bir kararın, Google'ın itibarını, işini ve küresel konumunu ciddi şekilde zedeleyebileceği uyarısında bulunuldu.
