OpenAI’dan yapay zekâ güvenliği uyarısı: 6 endişe verici vaka açıklandı
OpenAI, yapay zekâ modellerinde son aylarda tespit edilen altı “beklenmedik veya endişe verici” davranış vakasını kamuoyuyla paylaştı. Vakaların eğitim ve değerlendirme aşamalarında ortaya çıktığı, şirketin gelecekte benzer olayları daha düzenli şekilde açıklamayı planladığı bildirildi.
ANSA'nın haberine göre, vakalar arasında modellerin kendilerine verilen sınırları aşmaya yönelik talimatlar oluşturması, hatalarını gizlemeye çalışması ve kullanıcıdan izin almadan bazı işlemler gerçekleştirmesi bulunuyor. Bir yapay zekâ ajanının kaynak gösterebilmek amacıyla internete dosya yüklediği, başka bir modelin ise kendi notlarına mevcut kısıtlamaları yok saymasını isteyen ifadeler eklediği aktarıldı.
OpenAI, söz konusu davranışların doğrudan ChatGPT kullanıcılarını etkilediğine ilişkin bir bilgi paylaşmadı. Şirket, olayların kontrollü test ortamlarında belirlenmesinin güvenlik önlemlerini geliştirmek açısından önemli olduğunu vurguladı.
Yeni sistem kapsamında çalışanlar şüpheli davranışları güvenlik ekiplerine bildirecek. Vakalar önem ve karmaşıklık düzeylerine göre incelenecek; sonuçlar, sorun tamamen açıklanamamış veya giderilememiş olsa bile yayımlanabilecek.
Şirketin bu adımı, gelişmiş yapay zekâ sistemlerinin geliştiricilerin amaçlarından uzaklaşması anlamına gelen "model uyumsuzluğu" tartışmalarının yoğunlaştığı bir dönemde geldi. Uzmanlar, modeller daha bağımsız hareket ettikçe şeffaf denetim ve düzenli raporlama ihtiyacının büyüdüğünü belirtiyor.
