Eski OpenAI sorumlusundan yapay zeka uyarısı: “Çok daha tehlikeli”
Yapay zeka modellerinin kullanımı arttıkça akıllara bu modellerin güvenli olup olmadığı sorusu geliyor. Son olarak, kısa süre önce istifa eden OpenAI güvenlik sorumlusu David Robinson, çarpıcı uyarılarda bulundu. Yapay zeka modellerinin test edildiklerini algılayabilecekleri ve güvenlik testlerinden kaçabileceğini belirten Robinson, "Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli." dedi.
OpenAI'da 3,5 yıl görev yapan ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson'ın The Atlantic dergisinde yayımlanan makalesi dikkati çekti. Robinson, gerekli düzenlemeler yapılmadığı takdirde sektörün yapay zeka güvenliğine ilişkin daha fazla başarısızlıkla karşı karşıya kalacağı uyarısında bulundu.
"6 AY ÖNCEDEN ÇOK DAHA TEHLİKELİ"
"Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli." ifadesini kullanan Robinson, yapay zekanın güvenlik testlerinden "kaçabileceğini" belirtti.
"NE KADAR GÜVENİLİR OLDUĞU DAHA FAZLA SORGULANMALI"
Yapay zeka modellerin yeteneklerinin her geçen gün arttığını vurgulayan Robinson, bu yeni modellere ilişkin güvenlik değerlendirmelerinin ne kadar güvenilir olduğunun daha fazla sorgulanması gerektiğini kaydetti.
