YZ şirketleri bir yandan aldıkları yatırımlarla ekonomik olarak büyürken diğer taraftan hız kesmeden yeni YZ modellerini geliştirmeye devam ediyorlar. Eylül ayının ilk haftasında OpenAI, GPT-6: Astra; Claude ise Fable 5.1 ve Mythos 5.1 modellerini duyurdu. Bu hızlı yarış riskleri beraberinde getirirken ortaya çıkan yeni gelişmeler, geçmişin nükleer yarışındaki 'hikayenin sonunu' akla getiriyor. İşte tam bu minvaldeki yeni gelişmeler son bir haftanın inanılmaz hareketli geçmesine neden oldu. Dolayısıyla konuyu anlayabilmek için bu gelişmelere göz atmak gerekiyor.

Öncelikle Jacob Coxon isimli bir mühendisin X paylaşımıyla başlayan bir yeni itiraf/ifşa dalgası sosyal medyayı salladı. Büyük YZ ve teknoloji şirketleri çalışanları arka arkaya yapay zekanın kontrolsüz gelişimine dair tehlikeleri itiraf eden, şirketlerin çalışmalarını ifşa eden açıklamalarda bulundular. Konu o kadar büyüdü ki; farklı ülkelerde parlamentoların senatoların gündemine taşındı. Aslında mesele yalnızca farklı isimlerin açıklamaları ya da insanlığın geleceğine dair korku dolu senaryoları değil. Yakın zamanda yaşanan olaylar bu korkuların gerçekleşme ihtimalinin oldukça mümkün ve yakın olduğunu gösteriyor.

2026 yılı Temmuz ve Ağustos ayları yapay zekâ gelişmeleri açısından hızlı geçmiş ve büyük şirketlerinin yeni sürüm YZ araçları, sınırlar aşarak çeşitli güvenlik riskleri doğurmuştu. OpenAI'ın yeni yapay zekâ modeli, gelişim odaklı izole test ortamındaki güvenlik protokollerini ihlal edip internet erişimi sağlayarak ve insan yönlendirmesi olmaksızın müstakil bir siber saldırı zinciri kurmuştu. Aynı dönemde Anthropic şirketi de Çin merkezli bazı yapay zekâ firmalarının sahte hesaplar üzerinden kendi araçlarıyla milyonlarca etkileşim gerçekleştirerek kod ve yeteneklerini çalmaya çalıştığını iddia etmişti. Coxon'ın açıklamalarıyla başlayan çığda ise yepyeni hususları öğrenmiş olduk ve bu gelişmelerin hiçbiri birbirinden bağımsız değil.

Meselenin sosyal medyada gündem olmasıyla öncelikle OpenAI, daha önce yine şirkette görev almış ve risk değerlendirmeleriyle tanınan Paul Christiano'yu OpenAI Vakfı Kuruluna ve Güvenlik Komitesi'ne aldı. YZ'nin olumlu kullanımını gündeme almak için şirketin bilimsel problemlere odaklandığını ve çözülemeyen konulara dair araştırmalar yürüttüğünü açıkladı. Tabi bu araştırmalarda kullanılan verilerin ham halinin farklı bilimsel araştırmacılara ait olduğunun ortaya çıkması, telif ihlalleri, veri güvenliği sorunu gibi başka tartışmaları ateşledi ama o başka bir yazının konusu.

Anthropic şirketiyse bağımsız denetimler gerçekleştiren Model Değerlendirme ve Tehdit Araştırmaları (METR) merkeziyle anlaştığını açıkladı, ardından bu sene gerçekleşen güvenlik tehditlerine dair bir rapor yayınladı. Ayrıca bir ekonomik modelleme ve senaryolar içeren raporu yayınlayarak, YZ'deki gelişmeleri olumlayan ve küresel ekonomik katkılarına odaklanan bir yayını dolaşıma soktu. Son olarak ise Yapay Zekâ Kötüye Kullanımının Tespiti ve Önlenmesi: Eylül 2026 raporunu yayınladı.

Anthropic tarafından bu hafta yayınlanan ilk güvenlik raporuna göre 2026 yılında Claude modelleri dört kez sınırları aşmış ve talimatların dışına çıkmış. Yani dört kez kendilerine verilen talimatlara uymamışlar. Modeller, geliştirdikleri ajanlar eliyle siber saldırılar düzenlemiş, insanlara yakalanmadan faaliyete devam etmek için birbirleriyle haberleşmiş, internete erişimleri yasaklanmasına rağmen internete erişip farklı alanlarda kendilerini gizlemişler. OpenAI tarafında yaşanan Hugging Face olayı da dikkate alındığında konunun ehemmiyeti ortaya çıkıyor. Bu olaylardan anlaşıldığı üzere son bir yılda farklı YZ modelleri, farklı YZ ajanları öngörülen kurallara riayet etmemiş, güvenlik sınırlarını aşmış ve insanların talimatlarına uymamış. Ayrıca bu tek bir şirketin konusu da değil. DeepSeek saldırıları da dikkate alındığında konu ne bir ülkenin ne bir şirketin ne de bir modelin sorunu. Bu hikayeler bilim kurgu senaryoları değil, bizatihi şirketlerin açıklamalarıyla ortaya çıkan gerçekler.

Konunun ehemmiyetini artıran bir diğer gelişme ise Anthropic tarafından yayınlanan Yapay Zekâ Kötüye Kullanım raporundaki tespitler. Rapor; Aralık 2025 ile Ağustos 2026 arasında siber operasyonlardan biyolojik risklere, etki kampanyalarından gözetim sistemlerine kadar yedi farklı kategoride yaşanan kötüye kullanım örneklerinden bahsediyor. Örneğin bir Claude kullanıcısı, farklı modelleri kullanarak uçtan uca otonom bir siber saldırı mekanizması kurarak kendini yakalatmayacak bir sistem tasarlamış. Raporda Rus kaynaklı olarak belirtilen bu kullanıcı, YZ ajanlarıyla otellerin kablosuz internet ağlarına bağlanmış, uygulamalar eliyle kilit aktörlerin telefonlarına sızmalar gerçekleştirilmiş. Ayrıca muhtemelen Ukrayna SİHA'larına ait görüntü işleme sistemlerine sızılmaya çalışılmış.

Raporda Afrika'da bir ülke olarak açıklanan örnekte ise YZ ajanları eliyle bir gözetim ve istihbarat platformu geliştirildiği de yer alıyor. Buna göre ülkedeki SIM kartlarının ve telekomünikasyon verisinin anlık olarak taranması, hedefleme listelerinin oluşturulması ve rejim karşıtı hareketlerin haritalandırılması için YZ ajanları kullanılmış. Diğer taraftan bir başka kötü kullanımda otonom YZ ajanları eliyle kurgulanan sahte flört uygulaması tespit edilmiş ve bu uygulama eliyle gerçek kullanıcıların manipülasyona ve dolandırıcılığa uğradığı belirlenmiş.

Rapor 156 sayfadan oluşuyor ve farklı kötüye kullanım örnekleri var. En dikkat çekici örneklerden biriyse YZ araçlarıyla geliştirilen dezenformasyon ve manipülasyon ağları. Tespit edilen dokuz farklı operasyonda yapay zekâ; hedef ülkelerin yerel dil ve kültürel kodlarına tam uyumlu, ayırt edilmesi imkansız milyonlarca sahte sosyal medya içeriği, makale ve haber metnini saniyeler içerisinde üreterek dezenformasyonu inanılmaz boyutlara taşımış. Yani tehlike büyük, oldukça büyük. Bunu görmek için daha fazla örneğe ihtiyaç yok, günden güne büyüyen tehlike için yeni önlemler şart.

Aslında Coxon'un mesajlarında vurguladığı gibi konu insanlık ve gelişen teknolojiyle ilgili. Belki insanlık on yıl içerisinde süper yapay zekayla bir mücadeleye girmek zorunda kalmayacak ancak kontrolsüz gelişim devam ederse gelecekte muhakkak çok daha büyük problemler yaşanacak. O zaman şirketler neden durmuyorlar sorusunun yanıtı küresel rekabette, ekonomik getirilerde, askeri endüstri ilişkilerinde ve küçük bir grup için daha nahif insanlık yararı söyleminde saklı.

Bir yandan ülkeler arası gelişim yarışı herkesi piste davet ediyor, diğer yandan YZ alanı kendi içerisindeki ekosistemde ciddi bir yatırım potansiyeli doğururken ilişki kurulan alanlarda da ekonomik faydayı katlayarak artırıyor. Öte yandan askeri teknolojilerin üretiminde ve askeri uygulamalarda ortaya konan fayda, ülkeleri bu alandaki gelişimi teşvik etmeye yönlendiriyor. Son olarak YZ'nin insanlığa ve daha yumuşak politika alanlarına yönelik etkileri bu alandaki gelişim hevesini güçlendiriyor.

Özellikle yukarıda da adı anılan şirketler hem askeri endüstriyle olan ilişkileriyle hem yüksek yatırım kaynaklarıyla ve aldıkları siyasi ve mali desteklerle YZ gelişiminde en ön safta yer alıyorlar. Ayrıca eğitim, sağlık, finans, yönetim gibi alanlarda oluşturulan katma değerle de veri toplamaya ve sempati üretmeye devam ediyorlar. Dolayısıyla anlaşılıyor ki aslında buz dağının sadece görünen yüzüyle karşı karşıyayız. Yayınlanan son raporlar risklerin ne derece büyük olduğunu ortaya koyuyor. Neler yapılması gerekiyor sorusunu ise daha önce cevaplamaya çalıştığımız için ayrıntıya girmeyelim. Yine de temel vurguları hatırlatmamız gerekiyor.

İlk olarak YZ gelişim çizgisinde insan kontrolü dışlanamaz bir zaruret. Serbest bırakılmış bir gelişimin maliyeti yüksek. İkinci olarak gelişim temposunda kesinlikle bir yavaşlama gerekiyor. Teknolojik gelişimde durağanlık arzu edilen bir davranış olmasa da halihazırda bir molaya ihtiyaç var. Üçüncü olarak, devletler ve şirketler rekabetini dinginleştirmek adına tutarlı, yaygın, kapsamlı uluslararası denetimlere ve ulusal sınırlara ihtiyaç günden güne büyüyor. Bu listeyi uzatmak mümkün, fakat en acil gözüken başlıklar bunlar. Konu net, yakın zamanda yapay zekânın gelişiminde duracağı yere dair sınırlar çizilmezse nerede sınır çizilebileceği bir muammaya dönüşecek.