Yapay zekâ sektöründe son yıllarda art arda gelen istifalar, ilk bakışta teknoloji şirketlerinin iç meseleleri gibi görülebilir. Fakat ayrılan isimlerin bir kısmı sıradan çalışanlar değil. Söz konusu kişiler en gelişmiş modellerin güvenliği, hizalanması, ekonomik etkileri ve yönetişimi üzerinde çalışan araştırmacılar. Üstelik ayrılırken söyledikleri şeyler, yani kısaca ayrılma gerekçeleri; daha yüksek maaş, görev yeri değişikliği ya da kişisel kariyerle ilgili değil. Çoğunun ortak kaygısı, giderek daha güçlü sistemlerin hızla geliştirildiği ve bu sistemler üzerinde kimin gerçekten söz sahibi olduğu üzerinde yoğunlaşıyor. Elbette tabloyu hemen "yetişmiş uzmanlar alandan kaçıyor, felaket geliyor" kolaycılığına indirgemek doğru değil. Ulaşan bilgiler, eleştirel nitelikteki ayrılmaların sürdüğünü gösteriyor, fakat sektör genelinde istifaların hızlandığını kanıtlayacak kapsamlı bir veri seti elimizde yok.

Son günlerde bu tartışmaları yeniden alevlendiren isim Jacob Coxon ve onun X.com (eski Twitter) platformundaki açıklamaları oldu. OpenAI ve Anthropic'te araştırmalar yapan Coxon, 9 Eylül'de Anthropic'ten ayrıldığını duyururken sert bir ifade kullanarak şirketlerin kendi kendini geliştiren süper zekâya doğru yarıştığını ve insan hayatıyla kumar oynadığını söyledi. Coxon'un asıl itirazı ise şirketlerin aldığı önemli kararların meşruiyetine yönelik. Milyonlarca insanın hayatını etkileyebilecek bir teknoloji için kabul edilebilir risk düzeylerini, aynı teknolojiyi geliştiren ve ondan ekonomik değer üreten şirketlerin tek başına belirlemesi ciddi bir çıkar çatışması doğururken itirazları beraberinde getiriyor.

OpenAI'ın eski güvenlik araştırmacılarından Jan Leike, 2024'te ayrılırken güvenlik kültürünün ve süreçlerin, gösterişli ürünlerin gerisinde kaldığını söylemişti. Ekibinin zaman zaman hesaplama kaynağı bulmakta zorlandığını, güvenlik için daha fazla kaynak gerektiğini savunmuştu. Benzer şekilde, Daniel Kokotajlo da bu şirketlerin gelecekte sorumlu davranacağına olan güvenini kaybettiğini söylemiş ve ayrılık sürecinde konuşma özgürlüğünü maddi haklarının önüne koymak zorunda kaldığını açıklayarak infial uyandırmıştı. Dolayısıyla Coxon bu konuda yalnız değil. Bu örneklere bakıldığında; yapay zekâ şirketlerindeki güvenlik ekipleri şirket içi kararları gerçekten değiştirebiliyor mu, yoksa yalnızca tavsiye veren, ama ürün özellikleri, takvimi ve işlevselliği karşısında sınırlı etki taşıyan yapılar mı? Soruları gündeme geliyor. Son gelişmelerden sonra, maalesef ikinci seçenek çok daha olası görünüyor.

Bu endişeler elbette sadece süper zekânın ortaya çıkma ihtimalinin çok düşük olmasıyla sınırlı değil. 2026 yılında, İngiltere'de Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsü (AISI), testlerinde bazı koşullar altında ajanların gerçek kişilere ve kuruluşlara karşı yetkisiz eylemlerde bulunduğunu bildirdi. Açık kaynaklı yazılımlarda kötü niyetli değişiklikler yapma ve insanları kandırma girişimlerini de sık sık görüyoruz. En ciddi girişimler başarısız oluyor ve çoğu zaman olay sırasında hasar tespit edilemiyor. Kum havuzu (sandbox) adı verilen güvenli ortamlardaki testler; belirli bir görev, geniş erişim ve zayıf kısıtlamalarla birleştiğinde sistemlerin nasıl beklenmedik yönlere sapabileceğini de gösteriyor. OpenAI ajanlarının kum havuzundan çıkmanın bir yolunu bulup HuggingFace başta olmak üzere bazı sunuculara saldırması ve bunun günler sonra anlaşılması da önemli örnekler arasında.

Teknik tartışmanın özü de burada yatıyor. Bir sohbet robotunun yanlış cevap vermesi ile banka hesabına, e-postaya, üretim sistemine veya kritik altyapıya erişebilen bir ajanın hata yapması aynı şey değildir. Yapay zekâ sistemlerinde ve özellikle de ajanlarda risk yalnızca modelin zekâsından doğmaz. Yetki, erişim anahtarları, araçlar, bellek, insan onayı ve hatanın geri alınabilirliği de oldukça belirleyicidir. Güvenliğin ölçüsü de sadece sistemin testlerde ne kadar başarılı olduğu olamaz. Yanlış işlem ne kadar sürede fark ediliyor, geri alınabiliyor mu, kim etkileniyor ve gerektiğinde sistem gerçekten durdurulabiliyor mu? Konuşulması ve üzerinde çalışılması gereken asıl mühendislik soruları bunlardır.

Tehlike çanlarının çaldığı diğer bir konu ise mahremiyet ve ekonomik model tartışmalarıyla ilgilidir. OpenAI'dan ayrılan Zoë Hitzig, kullanıcıların sohbetlerde paylaştıkları hassas düşünceler ile reklâm gelirini artırma teşviklerinin birleşmesinin manipülasyon riski yaratabileceğini söyledi. İtirazı, reklamın varlığından çok, insanların en özel düşüncelerinin ekonomik optimizasyonun hammaddesine dönüşmesi ihtimalineydi. Tam da burada dijital feodalite tartışması önem kazanıyor. Kullanıcı yalnızca bir hizmet satın alan müşteri olmaktan çıkıp verisi, dikkati, davranışı ve hatta duygusal kırılganlıkları ekonomik değer üreten bir kaynağa dönüşüyor. Böylece, teknoloji şirketi ile birey arasındaki güç dengesi daha da bozuluyor.

İçerik ekonomisi de aynı sorunun başka bir yüzünü oluşturuyor. Eski OpenAI araştırmacısı Suchir Balaji, üretken yapay zekânın eğitim verileri ile kaynak hizmetler arasındaki ilişkiyi sorgulamış, model çıktılarının özgün içerik üreticilerinin yerine geçmesinin lisanslama ve gelir paylaşımı bakımından sonuçlar doğurabileceğini belirtmişti. Meselenin yalnızca telif davası olduğunu düşünmek, konuya sığ bir zeminde bakmak anlamına geliyor. Gazetecilik, yayıncılık, akademik üretim ve kültürel içerik ekonomik olarak zayıflarken onların ürettiği bilgiyle beslenen modeller daha güçlü hale gelirse, bilgi ekosisteminde tersine bir değer transferi oluşabilir. Kısa vadede ucuz ve hızlı yanıt kazanılırken uzun vadede o yanıtların beslendiği özgün kaynakların sürdürülebilirliği aşınabilir. Dijital feodalitenin en sessiz biçimlerinden biri de budur. Değeri üreten çok sayıda aktörün, değeri toplayan birkaç platform karşısında giderek daha bağımlı hale gelmesinin uzun vadede ne gibi sonuçlar doğurabileceği hâlen bilinmiyor.

Aynı güç yoğunlaşması altyapıda da görülüyor. Büyük modeller, devasa hesaplama kapasitesi, bulut hizmetleri ve çok yüksek sermaye gerektiriyor. Raporlarda dikkat çekildiği gibi, kritik hizmetlerin az sayıda sağlayıcıya bağımlı hale gelmesi teknik olduğu kadar ekonomik ve siyasi bir kırılganlık yaratıyor. Bir toplum kendi verisi üzerinde söz sahibi olsa bile kullandığı temel modeller, çipler, bulut altyapısı ve yazılım katmanları birkaç küresel şirkete bağlıysa tam anlamıyla teknolojik egemenlikten söz etmek zorlaşıyor. Egemenlik, yalnızca yerli model üretmek değil, gerektiğinde bağımsız test yapabilmek, sağlayıcı değiştirebilmek, veriyi taşıyabilmek ve kritik bir sistemi durdurabilmek demektir. Konjonktüre bakıldığında, dünyada kaç devletin bu egemenlik seviyesine ulaştığı veya nasıl ulaşabilecekleri tam bir muammadır.

Askerî kullanım tartışmaları da benzer bir yönetişim sorununa işaret ediyor. Örneğin, OpenAI'ın eski donanım lideri Caitlin Kalinowski, Pentagon anlaşmasına itiraz ederken meselenin her şeyden önce bir yönetişim meselesi olduğunu söyledi. Yargısal denetim olmadan gözetim ve insan yetkilendirmesi olmadan öldürücü özerklik gibi konuların aceleye getirilemeyeceğini savundu. Benzer şekilde, Google DeepMind'dan ayrılan Alex Turner da etik taahhütlerin siyasi ve ticari baskı altında ne kadar dayanıklı olduğu sorusunu gündeme taşımıştı. Burada mesele elbette savunma teknolojisini bütünüyle reddetmek değil. Asıl mesele, insan denetiminin gerçekten anlamlı olup olmadığını sormaktır. Bir insanın ekranda onayla düğmesine basması tek başına ahlaki sorumluluk zinciri kurmaz. Döngüde insan yaklaşımının benimsenmesinin gerekli olduğunun sürekli konuşulduğu bir ekosistemde, savunma sektöründe de otonominin derecesi son derece önemlidir.

Nobel ödüllü Geoffrey Hinton'ın 2023'te Google'dan ayrılırken riskler hakkında işverenini düşünmeden konuşmak istediğini söylemesi de aynı gerilimi hissettirmişti. Hinton inandırıcı sahte içerikler, işlerin dönüşümü ve kötüye kullanım ihtimallerine zaman zaman dikkat çekiyor. Hatta bugün kullandığımız yapay zekâ araçlarını, zamanla kocaman olacak bir yavru kaplana benzettiği Yavru Kaplan Metaforu ve modellere annelik içgüdüsünün dayatılması gerektiğine dair söylemleri gündemdeki tazeliğini koruyor. Elbette bilimsel itibarının fazla olması geleceği kesinlikle bildiği anlamına gelmiyor, fakat Nobel ödüllü olan ve yapay zekânın babası olarak adlandırılan bir araştırmacının uyarısının değerli olduğu da göz ardı edilmemelidir. Toplum açısından asıl tehdit bazen tek bir sahte görüntüye inanmak değil, gerçek görüntülerin de nasıl olsa yapay zekâ üretimi denilerek reddedilebildiği bir güven ortamına sürüklenmektir. Ortak gerçeklik zemini aşındığında gazetecilik, hukuk, bilim ve kamusal tartışma aynı anda zarar görür.

Elbette karamsarlık herkes için kolay bir sığınaktır. Yapay zekâ sağlık araştırmalarında, eğitimde, kamu hizmetlerinde, bilimsel keşifte ve üretkenlikte ciddi faydalar sağlayabilir. Hızlanan araştırma, güvenlik çalışmalarını da hızlandırabilir. Daha iyi hata bulma, değerlendirme ve doğrulama araçları geliştirilebilir. Sorun teknolojinin varlığı değil, gücün denetimsiz biçimde yoğunlaşmasıdır. İhtiyatlı bir iyimserlik tam da bu nedenle gereklidir. Faydayı reddetmeden, riskin bedelini yalnızca toplumun ödemesine izin vermemek gerekir.

Dolayısıyla, tehlike çanları çalıyor mu? Evet, fakat çanların sesini doğru anlamak gerekiyor. Çanlar yarın kıyamet kopacak demiyor. Daha rahatsız edici ve daha gerçekçi bir uyarı veriyor. Teknolojik kapasite, onu yönetecek etik, hukuki ve kurumsal kapasiteden daha hızlı büyüyor. İstifa eden araştırmacıların her iddiası doğru mu, bilinmez. Aynı şekilde, şirketlerin her savunması da yeterli ve tatmin edici değil. Gereken şey bağımsız test, gerçek hesap verebilirlik, çalışanların güvenli biçimde uyarı yapabilmesi, kritik sistemlerde sınırlı yetki ve insanın gerçekten müdahale edebildiği denetim mekanizmalarıdır. Aksi halde geleceğin en güçlü teknolojisi, insanlığın ortak imkânı olmaktan çıkıp, birkaç ülkenin himayesindeki birkaç şirketin belirlediği kurallarla işleyen yeni bir dijital bir hegemonyaya, hatta insanlığın kadim birikimlerini büyük yıkımlara uğratabilecek büyük bir güce dönüşebilir.