OpenAI, şiddet eğilimi nedeniyle ChatGPT'den yasaklanan gençlerin ebeveynlerini uyaracak
OpenAI, şiddet politikalarını ihlal ettiği gerekçesiyle ChatGPT'den yasaklanan veya hesabı dondurulan gençlerin ebeveynlerine bildirim göndermeye başlayacağını duyurdu. Bağlantılı hesaplara sahip ebeveynler, çocuklarının platformda şiddet eylemleri veya tehditleri içeren davranışlar sergilemesi durumunda artık anında haberdar edilecek.
Geçtiğimiz yıl kullanıma sunulan ebeveyn kontrolleri; kullanım saatlerini kısıtlama, hassas içerikleri filtreleme ve gencin kendine zarar verme eğilimi gösterdiği durumlarda aileye uyarı gönderme gibi özellikler sunuyordu. Çevrimiçi şiddeti izleme uzmanı Moonshot firmasıyla birlikte geliştirilen bu yeni güncellemeyle, başkalarına yönelik tehlike oluşturan durumlar da denetim kapsamına alındı. Böylece ailelerin riskli durumlara erken müdahale edebilmesi hedefleniyor.
Bu önemli güvenlik adımı, 2025 yılında Kanada'nın Tumbler Ridge bölgesinde yaşanan ve saldırganın ChatGPT kullandığı tespit edilen toplu silahlı saldırının ardından geldi. Saldırganın hesabını yasaklayan ancak yetkililere haber vermeyen OpenAI eleştirilerin hedefi olmuş, CEO Sam Altman bu ihmalden dolayı özür dileyerek güvenlik protokollerini artırma sözü vermişti.
Şirket, güvenlik önlemlerinin yanı sıra eğitime yönelik yenilikler de duyurdu. Ebeveynler artık doğrudan kontrol paneli üzerinden, sorulara doğrudan yanıt vermek yerine ipuçları sunan "Çalışma Modu"nu aktif edebilecek. Ayrıca, sağlıklı teknoloji alışkanlıkları edindirmek amacıyla, platformda uzun süre geçiren genç kullanıcılara daha sık mola hatırlatmaları gösterilecek.