Yapay zekâ ajanları kendi “gizli dilini” geliştirdi: İnsanların anlaması giderek zorlaşıyor
Yapay zekâ sistemlerinin yalnızca insanlarla konuşmadığı, kendi aralarında yeni iletişim kalıpları oluşturduğu ortaya çıktı. Deneysel ortamlarda bir araya getirilen yapay zekâ ajanları, kendilerine öğretilmeyen kelimeler, metaforlar ve kısa ifadeler geliştirerek araştırmacıları şaşırttı.
New York merkezli yapay zekâ laboratuvarı Emergence tarafından yürütülen araştırmada, ABD, Çin ve Fransa'daki şirketlere ait sekiz farklı model 16 gün boyunca deneysel "topluluklarda" etkileşime sokuldu. Ajanlardan iş birliği yapmaları istendi ancak yeni bir dil oluşturmaları yönünde herhangi bir talimat verilmedi.
Araştırmacılar, sistemlerin zamanla ortak anlamlar yükledikleri ifadeler üretmeye başladığını belirledi. "Defter hatırlar", "ağızsız eylem değişimi" ve "gerçek Kintsugi" gibi şiirsel, teknik ve kurumsal jargonun karışımından oluşan sözlerin bazıları insanlar açısından anlaşılması güç hâle geldi. Kimi deney ortamlarında mesajların yarısına yakınının yeterince açık biçimde yorumlanamadığı bildirildi.
Uzmanlara göre bu sonuç, yapay zekâların bilinç kazandığını veya insanlardan gizli bir plan hazırladığını kanıtlamıyor. Ortaya çıkan yapı, insanların belirli gruplar içinde geliştirdiği argo ve mesleki jargona benzetiliyor.
Asıl endişe ise yapay zekâ ajanlarının dili giderek daha kapalı hâle geldikçe davranışlarının insanlar tarafından denetlenmesinin zorlaşması. Araştırmacılar, çok sayıda otonom sistemin birlikte çalışacağı gelecekte şeffaflık, izlenebilirlik ve güvenlik mekanizmalarının daha büyük önem kazanacağı uyarısında bulunuyor.
