Avrupa Birliği üyesi ülkeler ve Avrupa Parlamentosu müzakerecileri, rızasız müstehcen içerik ve çocuk cinsel istismarı materyali üreten yapay zeka uygulamalarını yasaklama konusunda anlaştı. AB'nin dijital yasama çerçevesini basitleştirmeyi amaçlayan 'Omnibus VII' paketi kapsamında alınan kararla, yüksek riskli yapay zeka sistemleri için yeni takvimler belirledi.
Yeni düzenlemeyle rıza dışı cinsel veya mahrem içerik üreten, çocuk istismarı materyali oluşturan yapay zeka uygulamaların da yasaklandığı bilgisi verilen açıklamada, yüksek riskli yapay zeka sistemleri için uygulama tarihlerinin bağımsız yüksek riskli yapay zeka sistemleri için 2 Aralık 2027, ürünlere entegre edilmiş yüksek riskli yapay zeka sistemleri için de 2 Ağustos 2028 olarak değiştirildiği belirtildi.
Açıklamada, yapay zeka tarafından oluşturulan içerikler için şeffaflık çözümlerinin uygulanmasına yönelik geçiş süresinin 6 aydan 3 aya indirildiği ve yeni son tarihin 2 Aralık 2026 olarak belirlendiği ifade edildi.
Yapay zeka kuralları ile sektörel mevzuat arasındaki çatışmalara da çözüm üretildiğine işaret edilen açıklamada, makinelerin sektörel kurallara tabi olması nedeniyle yapay zeka yasasının uygulama alanından çıkarıldığı kaydedildi.
Söz konusu anlaşma, üye ülkeler ve AP'nin resmi onayının ardından geçerli olacak.
AB Yapay Zeka Yasası, 1 Ağustos 2024'te yürürlüğe girmişti. Yapay zeka kullanımına aşamalı olarak katı kurallar getiren yasanın çeşitli hükümleri farklı zamanlarda uygulamaya alınıyordu.
Yasaya göre, Ağustos 2026'da yüksek riskli yapay zeka sistemleri konusunda yükümlülüklerin başlaması bekleniyordu. Anlaşmayla Birlik Yapay Zeka Yasası'nın Ağustos 2026'da yürürlüğe girmesi öngörülen yüksek riskli sistemlere ilişkin kuralları ertelenmiş oldu.
X'TE ÇOCUKLARA CİNSEL TUZAK
Uluslararası araştırma kuruluşu Dijital Nefretle Mücadele Merkezi'nin yayımladığı rapor, ABD merkezli sosyal medya platformu X'in çocuk güvenliği konusunda ciddi zaafiyetlerini gözler önüne serdi. Rapor, Elon Musk'ın sahibi olduğu platformun herhangi bir yaş kısıtlaması uygulamadan çocuklara cinsel içerikler sunduğunu kanıtladı.
13 yaşındaki çocuk kimlikli test hesaplarıyla cinsel terimlerle yapılan aramalar, ilk saniyeden itibaren açık görsellerle sonuçlandı. Uzmanlar, platformun bu işleyişinin gençleri yetişkinlerden gelebilecek cinsel istismar riskine karşı korumasız bıraktığını belirtiyor.
İngiltere Dijital Nefretle Mücadele Merkezi (CCDH UK) araştırmacıları, X'in en düşük 13 yaşa kadar kullanım izni vermesinden yola çıkarak bu yaşta bir erkek ve bir kız çocuk profili oluşturup bu kullanıcıların maruz kaldığı içerikleri inceledi.
Bu yılın şubat-mart aylarında yapılan incelemeler sonucunda yayımlanan araştırmada, 18 yaş altı X kullanıcısı çocukların hassas içeriklerle ve cinsel içerikli paylaşımlarla karşılaşmasının önünde engel bulunmadığı ve 13 yaşındaki çocukların dahi bunlara maruz kaldığı belirtildi.
ARAMA YAPILMASA DA ÖNE ÇIKARILYIOR
Araştırmacıların, oluşturulan 13 yaş çocuk profillerinden cinsel içerikli arama yaptığı belirtilen araştırmada, bu profillere cinsel içerikli paylaşımların gösterildiği, sonrasında arama yapılmasa dahi ana sayfada bu türden içeriklerin görünmeye başladığı vurgulandı.
X algoritmasının 13 yaşına kadar çocuklara cinsel içerikli paylaşımları önerdiği kaydedilirken platformun ana sayfasındaki "Sana özel" bölümünün yüzde 30,5 oranında cinsel içerikli paylaşımlardan oluştuğuna vurgu yapıldı.
Araştırmada, istenmeyen mesajları önleme özelliğine rağmen yetişkinlerin çocuklara mesaj atabildiği, görüntü ve fotoğraf yollayabildiği ifade edildi.
"ÇOCUKLAR ZARAR GÖRMEYE AÇIK HALDELER"
Otomatik olarak yalnızca takip edilen kişilerden mesaj alan 18 yaş altı hesaplarda bu özelliğin kolayca devre dışı bırakıldığı kaydedildi. Araştırmada bu içeriklerin bir kısmının çocuk istismarı görüntüleri olduğuna da yer verildi.
Çocuk hesaplarının çeşitli X gruplarına katılmasının da önünde bir engel bulunmadığı anlatılan araştırmada, "Bunlar istisnai vakalar değil. Sonuç ortada. Çocuklar zarar görmeye açık haldeler. Şirketin güvenlik iddiaları ise yakından incelemeye dayanıklı değil." ifadeleri kullanıldı.
Bu tür cinsel içerikli önerilerin çocukları doğrudan bu içerikleri paylaşan yetişkinlere açık hale getirdiğini kaydeden CCDH UK Araştırma Direktörü Callum Hood, İngiliz Daily Mail gazetesine yaptığı açıklamada, "Gelip geçici bir merak bile çocuğu açık cinsel içerikli materyallere ve istismar riskine maruz bırakıyor. X'in güvenlik önlemlerinin işe yaramadığı burada görülüyor." dedi.
