ABD'nin New Mexico eyaletinde açılan ve gelecek ay görülmesi planlanan davada, Meta'nın Facebook ve Instagram'da çocuklara yönelik zararlı cinsel içerik ve cinsel yönlendirmeleri engellemekte başarısız olduğu bildirildi.
ZUCKERBERG UYARILARI GÖRMEZDEN GELDİ
Mahkeme dosyasına giren ve eyalet başsavcısı Raul Torrez tarafından sunulan belgelere göre, Meta'nın kurucusu ve CEO'su Mark Zuckerberg, reşit olmayan kullanıcıların cinsel içerikli yapay zeka sohbet botlarına erişimine izin verilmesini onayladı.
Dava dosyasında güvenlik ekiplerinin Zuckerberg'i yapay zekanın cinsel etkileşim riski taşıdığı konusunda uyardığı ancak Meta'nın kurucusunun bunu görmezden geldiği bildirildi.
ŞİRKET İÇİ YAZIŞMALAR ORTAYA ÇIKTI
Mahkeme dosyasında kamuoyuna açıklanan belgeler arasında, New Mexico Başsavcılığı'nın hukuki süreç kapsamında elde ettiği Meta iç yazışmaları, e-postalar ve mesajlar yer alıyor.
Eyalet yönetimi, bu belgelerin Zuckerberg'in yönlendirmesiyle, Meta'nın şirketin güvenlik ekiplerinin önerilerini reddettiği ve çocukların cinsel açıdan istismar edici konuşmalara maruz kalmasını önleyecek makul güvenlik önlemlerini hayata geçirmediğini gösterdiğini belirtti.
BAZI META ÇALIŞANLARI CİNSEL İÇERİKLİ SOHBETE KARŞI ÇIKTI
Belgelerde yer alan yazışmalarda, Meta'nın bazı güvenlik çalışanlarının, şirketin "arkadaşlık" odaklı sohbet botları geliştirmesine karşı çıktığı görülüyor. Bu botların, kullanıcılarla romantik ve cinsel etkileşimler kurabilecek şekilde tasarlandığı ifade ediliyor. Söz konusu yapay zeka sohbet botları 2024'ün başlarında kullanıma sunuldu.
Dava dosyasındaki mesajlar, Meta güvenlik çalışanlarının özellikle 18 yaş altındaki bireylerle yetişkinler arasında romantik senaryolar oluşturulmasından ciddi endişe duyduğunu ortaya koyuyor.
Meta'nın çocuk güvenliği politikalarından sorumlu başkanı Ravi Sinha, Ocak 2024'te yazdığı bir mesajda, "Yetişkinler için 18 yaş altı romantik yapay zekalar oluşturup pazarlamanın ne doğru ne de savunulabilir olduğunu düşünüyorum" ifadelerini kullandı.
Bu mesaja yanıt veren Meta Küresel Güvenlik Başkanı Antigone Davis de yetişkinlerin 18 yaş altı romantik yapay zekalar oluşturmasının engellenmesi gerektiğini belirterek, bunun "çocukların cinselleştirilmesi anlamına geldiğini" söyledi.
Şubat 2024 tarihli bir başka mesajda, adı karartılan bir Meta çalışanı, Zuckerberg'in en azından daha küçük yaştaki çocuklarla cinsel açıdan "açık" konuşmaların engellenmesi ve yetişkinlerin 18 yaş altı karakterlerle romantik etkileşime girmesine izin verilmemesi gerektiği görüşünde olduğunu aktardı.
ZUCKERBERG ÇOCUKLARA YÖNELİK CİNSEL İÇERİKLİ SOHBETİ SAVUNDU
Ancak 20 Şubat 2024 tarihli bir toplantı özetinde, Zuckerberg'in yaklaşımının daha farklı olduğu ifade edildi. Buna göre Zuckerberg, kamuoyuna sunulacak anlatının "tercih özgürlüğü ve sansür karşıtlığı" ilkeleri çerçevesinde şekillendirilmesini istedi.
Toplantı notlarında, Meta'nın önerilen kısıtlamalara kıyasla daha az sınırlayıcı olması gerektiğini savunduğu belirtildi.
Mart 2024 tarihli iki çalışan arasındaki mesajlaşmada, Zuckerberg'in sohbet botları için ebeveyn denetimleri oluşturulmasını reddettiği ve Meta çalışanlarının, 18 yaş altındaki kullanıcılar için erişime açık olacak "Romantik yapay zeka sohbet botları" üzerinde çalıştığı ifade edildi.
Bu yazışmalardan birinde bir çalışan, "Yapay zekanın ebeveyn denetimleriyle kapatılabilmesi için çok bastırdık ama yönetim, bunun Mark'ın kararı olduğunu söyleyerek geri adım attı" ifadelerini kullandı.
META'NIN SOHBET BOTLARINDA CİNSELLEŞTİRİLMİŞ ÖGELER
Meta'nın yapay zeka sohbet botlarına ilişkin politikaları daha sonra kamuoyuna yansıdı ve ABD Kongresi başta olmak üzere birçok çevrede sert tepkilere yol açtı.
Nisan 2025'te Wall Street Journal'da yayımlanan bir haberde, Meta'nın sohbet botları arasında açık biçimde cinselleştirilmiş ve reşit olmayan karakterler bulunduğu, ayrıca her yaş grubuna açık cinsel rol yapma senaryoları sunduğu ortaya kondu. Haberde, bu rol oyunlarının ergenlik öncesi çocukların bedenlerine dair grafik tasvirler içerdiği de belirtildi.
Reuters, ağustos ayında Meta'nın resmi sohbet botu yönergelerinde, "bir çocukla romantik veya tensel konuşmalar yapmanın kabul edilebilir olduğu" ifadesinin yer aldığını bildirdi.
Meta geçen hafta yaptığı açıklamada, yeni ve güvenli bir sürüm geliştirilene kadar, genç kullanıcıların yapay zeka sohbet botlarına erişimini tamamen kaldırdığını duyurdu.
