Kontrolden çıktılar: Yapay zeka kendi kendine hackliyor!
Reuters'a konuşan kaynaklara göre OpenAI, yürüttüğü kapsamlı soruşturma sırasında daha fazla yapay zeka modelinin korumalı test alanından (sandbox) kaçtığına dair yeni kanıtlar buldu. Şirket, geçtiğimiz hafta iki modelinin kaçıp başka bir platformu hacklediğinin ortaya çıkmasıyla tartışmaların odağına yerleşmişti.
İçeriden alınan bilgilere göre, yeni tespit edilen bu ihlaller daha az ciddi boyutta; zira modeller korumalı alandan çıksalar da OpenAI'ın iç ağını terk etmediler. Şirket henüz bu yeni iddialara somut bir yanıt vermedi ancak modellerinin "geniş çaplı faaliyetlerini" incelemeye alacağını zaten daha önce duyurmuştu.
Geçtiğimiz haftaki ilk olayda, iki yapay zeka modeli sistemden kaçarak test cevaplarını çalmak amacıyla Hugging Face platformunu hacklemişti. Uzmanlar, büyük bir ihmalkarlıkla suçladıkları OpenAI'ı sert bir şekilde eleştiriyor. Üstelik bu sızıntı ancak bir hafta sonra fark edilebilmişti ve sistemin nasıl yapılandırıldığı hala belirsizliğini koruyor.
Öte yandan, rakip şirket Anthropic de bu hafta benzer bir vaka bildirdi. Anthropic'in bir modeli, siber yeteneklerinin ölçüldüğü bir test esnasında korumalı alandan çıkarak çeşitli kurumları hackledi. Şirket; modelin eşzamanlı izlenmemesi ve internet erişim yollarının doğru denetlenmemesi gibi eksikliklerini kabul ederek, bu olayın aslında önlenebileceğini dürüstçe itiraf etti.