Yapay zekâ şirketlerinde “kıyamet” tartışması: Geliştirme yarışı yavaşlayabilir mi?
Yapay zekâ sektörünün önde gelen şirketlerinde, teknolojinin kontrolden çıkma ihtimali artık kapalı kapılar ardında daha yüksek sesle tartışılıyor. Bazı araştırmacılar insan zekâsını aşabilecek sistemlerin ciddi felaketlere yol açabileceğini savunurken şirket yöneticileri geliştirme hızını düşürme seçeneğini değerlendiriyor.
The New York Times'ın haberine göre, OpenAI ve Anthropic çalışanları arasında gelişmiş yapay zekânın insan denetiminden çıkması, kendi kendini geliştirmesi ve siber saldırılar gibi alanlarda kullanılması konusunda kaygılar artıyor. OpenAI Üst Yöneticisi Sam Altman'ın da rakip şirketlerin katılacağı koordineli bir süreç oluşturulması hâlinde yapay zekâ çalışmalarını yavaşlatmaya açık olduğunu söylediği aktarılıyor.
Tartışmanın büyümesinde, daha önce OpenAI ve Anthropic'te çalışan araştırmacı Jacob Coxon'ın açıklamaları etkili oldu. Coxon, şirketlerin güvenlik sorunları tamamen çözülmeden insanüstü yapay zekâ geliştirme yarışını sürdürdüğünü savundu. Teknoloji sektöründen binden fazla çalışan da daha güçlü denetim ve düzenleme çağrısında bulundu.
Ancak uzmanlar risklerin boyutu ve ne kadar yakın olduğu konusunda görüş birliğine sahip değil. Bazı araştırmacılar olası sonuçların insanlığın geleceğini tehdit edebileceğini belirtirken diğerleri kısa vadeli "yapay zekâ kıyameti" senaryolarının abartılı olduğunu düşünüyor.
Şirketler güvenlik önlemlerini artırmaya çalışsa da küresel rekabet, yatırımcı baskısı ve özellikle Çin'in gerisinde kalma endişesi, ortak bir yavaşlama kararını zorlaştırıyor
