Dünyanın en büyük teknoloji şirketlerinden Meta'nın yapay zeka hamlesi, kullanıcıların gizliliğini korumak yerine kişisel verilerini tehlikeye atan bir güvenlik kabusuna dönüştü. Şirketin yeni yapay zeka ajanı Muse'un şifreli mesajlara erişebildiği, finansal bilgileri görüntüleyebildiği ve kullanıcıların bilgisi dışında beklenmedik işlemler gerçekleştirebildiği ortaya çıktı. Milyarlarca insanın verilerini elinde tutan teknoloji devi, yapay zeka çağında en temel güvenlik ve mahremiyet güvencesini bile sağlayamamakla karşı karşıya.
Meta'nın milyarlarca dolarlık yapay zeka gelirinin merkezine yerleştirdiği Muse adlı yapay zeka ajanı, daha piyasaya çıkışının ilk aylarında ciddi gizlilik ve güvenlik sorunlarıyla gündeme geldi. Eylül ayındaki lansmanından bu yana 10 milyondan fazla indirilen Muse, Meta çalışanları arasında da endişeye yol açtı.
ŞİFRELİ ÖZEL MESAJLARA KADAR UZANDI
Reuters'ın incelediği şirket içi yazışmalarda, bir Meta çalışanı Muse'un kendisine Signal mesajlaşma uygulaması üzerinden gelen bir mesajı yanıtlamasını hatırlattığını bildirdi.
Ancak çalışan, uygulamaya Signal hesabına erişim izni vermediğini ve böyle bir yetki talebiyle karşılaştığını hatırlamadığını belirterek yaşananları ciddi bir gizlilik ihlali olarak değerlendirdi.
Çalışanlardan bir diğeri ise Muse'un Android telefonlarda varsayılan olarak bildirimlere erişim izni bulunduğunu fark etti. Bunun üzerine Reuters, Signal çalışanları ve yapay zekanın toplumsal etkilerini araştıran AI Now Institute ile birlikte söz konusu erişimi test etti.
Denemelerde Muse'un Android telefonlarda bildirim izinlerini, Apple bilgisayarlarda ise erişilebilirlik ve ekran görüntüsü araçlarını kullanarak Signal mesajlarının içeriğini alabildiği görüldü.
Uygulama, Meta'nın kendi Connector aracını devre dışı bırakarak ilk kurulum sırasında verilen izinleri farklı amaçlarla kullanabiliyordu.
KULLANICILARA BAŞKALARININ BANKA BAKİYELERİNİ GÖNDERDİ
Reuters'ın ulaştığı şirket içi bildirimlerde, Muse'un çalışanlara kendilerinin gerçekleştirmediği alışverişler, vermedikleri siparişler ve talep etmedikleri işlemler hakkında mesajlar gönderdiği aktarıldı.
Bir çalışanın paylaştığı örnekte Muse, olağan sohbetine aniden iki farklı banka hesabına aitmiş gibi görünen bakiye bilgileri ekledi. Mesajda Capital One hesabında 2 bin 722 dolar, Charles Schwab hesabında ise 5 bin 899 dolar bulunduğu yazıyordu.
Meta çalışanları, farklı hesaplara ait konuşmaların birbirine karışması ve özel bilgilerin yanlış kişilere gönderilmesi ihtimalinden endişe duyduklarını şirket içi yazışmalarda dile getirdi.
KULLANICI İZNİ OLMADAN REZERVASYON YAPTI
Muse'un neden olduğu sorunlar yalnızca özel mesajlar ve banka bilgileriyle sınırlı kalmadı. Şirket içi bildirimlerde bir çalışanın, yapay zeka ajanının kendisinden izin almadan iade edilemeyen bir Airbnb konaklaması ayarladığını bildirdiği ortaya çıktı.
Başka örneklerde ise Muse'un gerçekte yapılmamış işlemler hakkında bilgi verdiği, satın alınan ürünler için yanlış fiyatlar bildirdiği ve kullanıcıların para kaybetmesine neden olduğu aktarıldı.
BAŞKASININ KONUŞMALARINI SIZDIRDI
Bazı çalışanlar, kendileriyle hiçbir ilgisi olmayan çocuk bakımı talepleri, kariyer tavsiyeleri ve mobilya alışverişleri hakkında da beklenmedik mesajlar aldıklarını bildirdi.
Bir çalışan, sehpa teslimatıyla ilgili bir mesaj üzerine Muse'a neyi kastettiğini sorduğunda, yapay zeka başka bir kişiye ait olabilecek bir konuşmanın bağlamını yanlışlıkla aktardığını kabul etti. Çalışan bunu olası bir hesaplar arası veri sızıntısı olarak değerlendirdi.
"ENDİŞE VERİCİ HATALAR"
Reuters'ın incelediği iki düzineden fazla şirket içi paylaşım, istenmeyen mesaj ve hatalı işlemlerin eylül ayının ortalarından kasım ayına kadar devam ettiğini gösterdi.
Meta'nın yapay zeka ekibinden bir çalışan, sistemin kullanıcılarla oturumlar arasında etkileşime geçmesini sağlayan otomatik yönlendirmelerin bazı yanlış mesajlara neden olduğunu belirtti. Bu hataların özellikle finans, güvenlik ve sağlık gibi hassas konularda ortaya çıkmasının endişe verici olduğunu ifade etti.
SIGNAL'DAN META'YA SERT TEPKİ
Signal Başkanı Meredith Whittaker, Reuters'ın test sonuçlarının ardından Meta'yı temel gizlilik ve siber güvenlik ilkelerine saygı göstermeden Muse'u piyasaya sürmekle suçladı.
Whittaker, kullanıcıların cihazlarına geniş kapsamlı erişim sağlayabilen yapay zeka ajanlarının bu şekilde devreye alınmasını teknolojik açıdan sorumsuzluk olarak nitelendirdi.
Uygulamaların yapay zeka ajanlarına kapalı olduklarını teknik olarak belirtebilmeleri ve bu sınırların teknoloji şirketleri tarafından ihlal edilmemesi gerektiğini vurguladı.