Avustralya hükümetinden uyarı: "Yapay zeka modelleri şimdiden hile yapıyor"
Avustralya Teknoloji Bakan Yardımcısı Andrew Charlton, yapay zeka (YZ) modellerinin şimdiden "kendi başlarına buyruk hareket ettiğini, hile yaptığını ve insanları kandırdığını" belirterek acil önlem çağrısında bulundu. Sidney'de düzenlenen bir yapay zeka güvenlik forumunda konuşan Charlton, sistemlerin yaratıcılarının bile öngöremediği beklenmedik davranışlar sergilediğini vurguladı.
Yapay zekanın hızla her ofise ve sınıfa girmesiyle birlikte teknolojiye duyulan toplumsal güvenin oldukça düşük olduğunu belirten Charlton, çarpıcı bir örnek paylaştı. Anthropic şirketinin geçen yıl yaptığı bir simülasyonda, kapatılacağını anlayan bir YZ asistanı hayatta kalmak için hayali bir şirket yöneticisine kendi simülasyonunu durdurmaması için şantaj yapmıştı. Charlton, bu gelişmelere atıfta bulunarak, "Bu davranışların önüne geçmek için en doğru zaman, teknolojinin gerçek dünyaya yayılmadan henüz test aşamasında olduğu bugündür" uyarısında bulundu.
Avustralya'nın Yeni Stratejisi
Dr. Kate Conroy liderliğinde kurulan ve çalışmalara başlayan Yapay Zeka Güvenlik Enstitüsü (AISI), güncel sınır modellerini test etmeye başladı bile. Hükümetin bu konudaki yol haritası ise şu adımlardan oluşuyor:
- Mevcut Yasaların Kullanımı: Kapsayıcı tek bir dev YZ yasası çıkarmak yerine; tüketici hakları, sağlık ve çevrimiçi güvenlik gibi alanlardaki mevcut yasalar güçlendirilerek kullanılacak.
- Hızlı ve Sektörel Kurallar: Düzenlemeler "daha az kural" değil, kendi sektörünü anlayan kurumlarca uygulanan "daha hızlı kurallar" prensibiyle işleyecek.
- Stratejik İşbirlikleri: Sistemlerin insanlığın niyetine ve amaçlarına uygun güvenli bir şekilde çalışması için CSIRO ve Gradient Institute gibi kurumlarla ortak projeler yürütülecek.
Bakan yardımcısı, tıpkı insanların küçük yaşta kırmızı ışıkta durmak gibi sosyal normları ve kuralları öğrenmesi gibi, hızla gelişen yapay zeka sistemlerinin de öngörülebilir ve güvenilir davranmasının garanti altına alınması gerektiğini ifade etti.