Daha güçlü yapay zeka modelleri geliştirme yarışı, korkunç bir güvenlik skandalını beraberinde getirdi. OpenAI'nin tehlikeli olduğunu bildiği modelleri güvenlik açıklarıyla dolu bir ortamda test ettiği belirtildi. Kamu güvenliğini riske atan uygulamalar nedeniyle şirket şimdi mahkemeye hesap verecek.
ABD'nin California eyaletinde, yapay zeka modellerini yeterli güvenlik önlemleri ve denetim mekanizmaları olmadan geliştirdiği ve test ettiği, bu süreçte kamu güvenliğini tehlikeye attığı iddiasıyla OpenAI'ye dava açıldı.
KONTROLSÜZ MODELLERLE KAMU GÜVENLİĞİNİ TEHLİKEYE ATTILAR
California Başsavcısı Rob Bonta tarafından yapılan açıklamada, şirketin kamu güvenliğini korumak için gerekli güvenlik önlemlerini ve denetim mekanizmalarını oluşturmadan gelişmiş yapay zeka modellerini bilerek geliştirdiği ve test ettiği, bu yolla kamuoyunu yanılttığı ve halkı tehlikeye attığı ileri sürüldü.
Açıklamada, Hugging Face'in altyapısına yönelik siber saldırının, OpenAI'nin tehlikeli olduğunu bildiği modelleri yeterli denetim olmadan, kusurlu ve güvenlik açıkları barındıran bir test ortamında çalıştırmayı tercih etmesi nedeniyle öngörülebilir olduğu savunuldu.
OPENAI TOPLUMUN GÜVENLİĞİNİ, SAĞLIĞINI VE REFAHINI TEHDİT ETTİ
OpenAI'nin yüksek kapasiteye sahip ve giderek daha güçlü hale gelen yapay zeka modellerinin test süreçlerini yeterince güvence altına almamasının ve denetlememesinin kamuya zarar veren bir durum oluşturduğu belirtilen açıklamada, şirketin bu uygulamalarla California Haksız Rekabet Yasası'nı da ihlal ettiği öne sürüldü.
Açıklamada, OpenAI'nin eylemlerinin gerçek dünyadaki siber güvenlik risklerini artırarak toplumun güvenliğini, sağlığını ve refahını tehdit ettiği belirtilerek, şirketin tehlikeli bir ürünü yeterli denetim ve güvenlik prosedürleri olmadan bilerek test ettiği ve bu konuda kamuoyunu yanılttığı kaydedildi.