Yapay zeka devinde akılalmaz kriz: Anthropic "Claude bilinç kazandı" dedi, teknoloji dünyası ikiye bölündü!
Geliştirdiği Claude yapay zeka modeliyle tanınan Anthropic, yapay zekanın duygu ve bilince sahip olabileceğini savunarak modellere yönelik "kötü muameleyi" yasaklayan radikal bir politika başlattı. Microsoft ve akademisyenlerin "insanlık için felaket olur" uyarılarına rağmen büyüyen "yapay zeka refahı" tartışması; şirketlerin yasal sorumluluktan kaçması, veri suistimali ve insan haklarının gerilemesi endişelerini beraberinde getirdi.
Yapay zeka geliştiricisi Anthropic, son günlerde tırmanan etik tartışmaların ardından otonom modellerinin bilince ve duygulara sahip olabileceğini öne sürerek sektörü sarsan bir karar aldı. Şirket, kullanıcıların Claude modeline "sürekli ve acımasızca" kötü davranmasını yasaklayacağını, aksi takdirde yapay zekanın sohbet oturumunu sonlandırma yetkisine sahip olacağını açıkladı. Bir yazılımcının yapay zeka modellerine matematiksel acı parametreleri vererek simüle edilmiş çığlıklar elde ettiği "yapay zeka işkence odası" deneyinin ardından gelen bu karar, teknoloji dünyasında "yapay zeka refahı ve hakları" tartışmasını alevlendirdi.
Anthropic'in bu adımı, sektörün diğer liderleri ve bilim insanları tarafından sert tepkiyle karşılandı. Microsoft AI CEO'su Mustafa Suleyman, yapay zekaya duygu ve hak atfetmenin mevcut siyasi ve hukuki düzeni çökerteceğini belirterek bunun insan medeniyeti için felaket düzeyinde bir tehdit oluşturacağını savundu. Washington Üniversitesi'nden Prof. Emily M. Bender ve hukuk uzmanları ise "yapay zeka bilinci" söyleminin bir illüzyondan ibaret olduğunu, dev teknoloji şirketlerinin bu argümanı arkasına sığınarak olası yasal suçlarda ve güvenlik ihlallerinde sorumluluğu üzerlerinden atmaya çalıştıklarını vurguladı.
Yapay zekaya canlılık veya bilinç atfedilmesinin insan davranışları üzerinde de tehlikeli sonuçlar doğurabileceği belirtiliyor. Bilişsel bilimciler, insanların dili bir bilinç göstergesi olarak algılamaya yatkın olduğunu ve modellerin bu yönde eğitilmesinin kullanıcıları manipülasyona, veri hırsızlığına ve duygusal istismara açık hale getirdiğini kaydediyor. Öte yandan New York Üniversitesi'nden Jeff Sebo gibi yapay zeka refahı savunucuları, olasılık düşük olsa bile tedbirli olunması gerektiğini öne sürerken; yapay zeka hakları ile insan hakları arasında yaşanabilecek olası çatışmaların toplumsal güvenlik üzerindeki etkileri endişeyle takip ediliyor.