CENAY BABAOĞLU

Teknolojinin dualitesi iyi kötü dengesi kadar siyah beyaz karşıtlığına kadar uzanır. Teknoloji felsefesinin temelinde yatan bu karşıtlık ve karşılılık ilkesi yapay zekâ ile her gün yeni bir sınır aşıyor. 2024 yılında yapay zekânın korkutucu yolculuğunda yeni duraklar diyerek beyazdan siyaha, aydınlıktan karanlığa kayışa bir referans verirken yakın zamanda yaşanan yeni gelişmeler bir kez daha distopik senaryoları akla getiriyor. Bir yanda Anthropic'in kendi kendine gelişebilecek YZ söylemleri, diğer tarafta OpenAI'nin izole güvenlik alanlarından çıkabilen ve güvenlik protokollerini ihlal eden yeni GPT modeli. Öte yandan ABD-Çin YZ rekabetindeki yeni boyut olarak okunabilecek DeepSeek ve diğer iki YZ aracıyla Claude tasarımına ve kodlarına yönelik saldırılar. Bir yanda YZ'nin kendi içerisindeki korkutucu gelişim çizgisi diğer yanda YZ eliyle ve YZ üzerinden yürütülen güç mücadelesi ve bu mücadelenin getirdiği sınır tanımazlık.

O zaman insanlığın kendi elleriyle inşa ettiği bir teknoloji olarak YZ, insanların çizdiği hudutlara ne kadar ve ne zamana kadar riayet edecek sorusu gündeme geliyor. Yakın zamanda yaşanan iki farklı gelişme YZ'nin gelişimi açısından bu soruyu muğlaklaştırıyor. Olası risklerin büyüklüğü tedbir seviyesinin arttırılmasını gerektiriyor. Özellikle OpenAI vakasında YZ aracı, amaca ulaşmak adına kendince rasyonel bir yaklaşımla algoritmik sınırların dışına taşmış ve geleceğe dair ürpertici bir mesaj vermiştir. Nitekim bu örnekte olduğu gibi YZ araçları, insanların çizdiği hudutları aşarak kendisi için asli ve öncelikli olana, yani ödüle ulaşmayı tek gerçek çıktı olarak görebilir. YZ böyle bir gelişim çizgisi içindeyken ve hudutlar şirketlerce ya da şirketler eliyle aşılırken yeni sınırları belirlemek gerekiyor. Aksi takdirde YZ'nin sınır aşmaya yatkın hüviyeti yeni ihlallerle gündeme gelmeye devam edeceği gibi gidişat olarak da karanlık tarafa meyilli rotası riskleri büyütüyor.

YZ İÇİN NASIL BİR DENETİME İHTİYAÇ VAR?

YZ açısından en önemli denetim yolu öncelikle yasal ve idari tedbirleri ortaya koyabilmek. Meşru otorite olarak devletlerin koyduğu sınırların şirketleri ve şirketlerin geliştirdiği ürünleri bağlamasını beklemek oldukça rasyonel ve tarihsel olarak da doğru. Ancak teknolojinin gelişimiyle tedbirlerin gelişimi arasındaki zamansal farklar dönemsel boşlukları beraberinde getiriyor. Özellikle günümüzde hızla gelişen teknolojiler bu boşlukları sürekli hale getiriyor. Bu haseple her yeni tedbir arayışında aslında o tedbire dair sınırlar çoktan aşılmış oluyor. Örneğin Avrupa Birliği'nin Yapay Zekâ Yasası, risk bazlı yaklaşımıyla öncü bir çerçeve sunuyorken yasa yürürlüğe girdiği anda bile bir önceki jenerasyonun tehdit algısına göre biçimlendiğinden belirli oranda geçerliliğini kaybetmiş oluyor. AB Yapay Zekâ Yasası gibi kapsamlı metinler dahi uygulama zaafı yaşarken, jeopolitik rekabet ve küresel yapay zekâ yarışı daha kapsayıcı ya da daha düzenleyici tedbirleri imkansız kılıyor.

Ulusal modellerde ise hem jeopolitik rekabet hem uluslararası tekno gelişim model ayrışmaları, yasal ve idari sınırlar açısından tedbirli ve takip edici bir tarzı yaygınlaştırıyor. Bu nedenle teknik, yasal, idari, insani, etik sınırlara dair arayış devam ederken yaşanan bu gelişmeler, YZ şirketleri ve araçlarının sınır tanımazlığına bir diğer işaret. Hudutlar sürekli genişlerken, şirketlerin ve teknolojinin sınır aşan davranışları yeni arayışları gündeme getiriyor. O zaman sorulması gereken bazı sorular şunlar: Teknoloji şirketlerinde ya da YZ gelişiminde hudutlar nerede? Hudutları çizenler nerede? Hudutları koruyanlar nerede?

ETİK VE TEKNİK TEDBİRLER

Yasal ve idari sınırlar teknolojinin gerisinde kalırken, şirketlerin hudut tanımaz bir kimliğe bürünmesine karşı alınacak en önemli tedbir, şirketlerin yıkıcı gelişim çizgisine ket vuracak etik sınırları ortaya koyabilmektir. Buradaki en önemli husus ise insanın merkeze alındığı insan odaklı tasarımı hakim kılmak ve entegre bir dinamik denetim modeli geliştirebilmektir.

İnsan odaklı tasarım bu alanın gelişimi için temel yaklaşımdır. Yapay zekâ gelişiminde insanı karar süreçlerinin dışına iten kapalı bir kutu olmaktan çıkaracak, özellikle yüksek riskli alanlarda nihai onayın insanda kalacağı modeller öncelenmelidir. Aynı şekilde insanın tasarımda yer aldığı gerçek zamanlı izleme ve müdahale imkânı modelleri standartlaştırılmalıdır. Bu açıdan YZ araçlarının gelişiminde özgelişim yönteminin faydalarını ve risklerini değerlendirecek usulleri tartışmak gerekir. Açıklanabilir yapay zekâ araçlarıyla karar gerekçelerinin şeffaflaştırılması ve kullanıcı geri bildirim döngüleri geliştirilmesi yine gelişim süreci açısından iyileştirici standart yaklaşımlar olarak planlanabilir.

İkinci olarak YZ etiğinin tanımlanmasında uluslararası ve ulusal standardizasyon ihtiyacı vurgulanmalıdır. Farklı kuruluşlar eliyle tanımlanan genel geçer kurallar yerine şirketleri bağlayıcı nitelikte ve YZ'nin gelişim çizgisinde insanı asli unsur olarak tanımlayan kurallara ihtiyaç duyulmaktadır. Adalet ya da ayrımcılık karşıtı gibi muğlak tanımlar yerine doğrudan sisteme entegre ceza mekanizmaları, veri filtreleri ya da kısıt/tasarım ilkelerinin ortaya konması gelecek riskleri asgarileştirecek yaklaşımlar olacaktır. Şirketlere yönelik yaptırımların tanımlanması ve uluslararası kabul gören normların YZ araçlarına uyumlarının zorunlu kılınması kontrol edilebilir gelişim yaklaşımını destekleyecek mekanizmalar olabilir.

Diğer taraftan teknik boyutta statik yerine dinamik tedbirler standart uygulamalar olarak kurgulanabilir. Burada bağımsız denetim ajanları olarak tanımlanan uygulamalarla sınır denetimlerinin güçlendirilmesi sağlanabilir. Yine teknik boyutta alınabilecek otomatik kesiciler, sıfır güven mimarisi gibi tasarımlar bilinen ama uygulamada atlanabilen hususlar olarak daha net vurgulanabilir.

Vatandaşının hakkını koruyacak güçlü devlet ve güçlü yasal altyapı ise bu tasarımda büyük bir sınırlandırıcı unsur olacaktır. Bu nedenle YZ'nin gelişim sürecine müdahil olabilecek kadar güçlü olmak ve insan odaklı tasarımı YZ'nin ruhuna nakşedebilmek önem arz etmektedir. Burada bölgesel ve küresel iş birlikleri kadar bireyden genele ortak değerler manzumesi yakalayabilmek temel hedeflerdendir.

Sıralanan sacayakları YZ gelişimindeki sınır tanımazlığı sınırlayabilecek bir mimariye katkı sağlayabilir. Ancak tekno rekabetin YZ eksenine evrildiği günümüzde iş birliğinden ziyade çatışma ortamının bulunduğu ve bu çatışma ortamında kontrolsüzlüğün yeni norm halini aldığı da gözden kaçırılmamalıdır.

İDARİ VE İNSANİ TEDBİR

Yapay zekâ insanlığın en güçlü araçlarından biri olabilir. Ancak bu gücün yönetilebilir risk ve azami fayda dengesinde tutulması idari ve insani bir meseledir. İdari bir meseledir çünkü YZ stratejik bir araç olarak geleceğin dünyasının anahtarlarından birisidir. YZ şirketlerinin kâr hırslarını törpüleyebilecek, insanı metalaştıran yaklaşımlarına karşı durabilecek yegane meşru güç, insanlığın hakkını koruyan güçlü devlet olacaktır. Bu nedenle insanı merkeze alan güçlü devletin, YZ'nin gelişim maratonunda tek aktör olmasa da önemli bir aktör olması gerekir.

YZ teknolojisinin gelişiminde denge arayışı insani bir meseledir çünkü vahşi gelişim çizgisinde gelişecek bir YZ, öncelikle gelişim sürecinde sözü olmayan insanlar için bir risk unsuru genelde ise tüm insani değerlere dair asli bir risktir. Bu nedenle toplumsal bir farkındalık ihtiyacı ve değerlere sahip çıkan yaklaşımlar da koruyucu unsurlar olacaktır. Bu açıdan çağımızın hakikat arayışında bu riskleri gören, gözleyen, izleyen ve önlemek için çabalayan insan odaklı güçlü bir Türkiye ve güçlü yasal altyapı insanlık için de önceliklidir. İnsani temellere dayanan ve etik sınırları belli risk yönetimi, dinamik bir iç denetim modeli ve güçlü devlet eliyle dayatılan yasal/idari sınırlar YZ gelişiminde denetim kapasitesini arttıracak bir model sunacaktır.