Google Play Store ve Apple App Store, milyonlarca uygulamaya ev sahipliği yaparken, yapay zeka destekli potansiyel taciz araçları barındırmaya devam ediyor. Yapılan son bir araştırma, her iki platformda da kullanıcıların yüklediği görselleri uygunsuz içeriklere dönüştürebilen düzinelerce uygulamanın hala mevcut olduğunu ortaya koydu. Bu durum, teknoloji devlerinin içerik denetim politikaları ve güvenlik önlemleri konusunda süregelen tartışmaları yeniden alevlendirdi.
AI etiği üzerine çalışan kâr amacı gütmeyen kuruluş Meedan tarafından yürütülen detaylı bir inceleme sonucunda, bu türden 60’tan fazla uygulamanın Google Play Store ve Apple App Store’da aktif olarak hizmet verdiği belirlendi. Söz konusu uygulamalar, genellikle “derin sahte” (deepfake) veya “çıplak sahte” (nude-fake) olarak bilinen, bir kişinin fotoğrafını rızası dışında müstehcen veya çıplak bir görüntüye dönüştürebilme yeteneğine sahip. Bu durum, özellikle “rıza dışı cinsel içerikli görsellerin” (NCII) yayılması riskini doğuruyor.
Yapay Zeka Destekli Tehlike: Uygulamalar Nasıl Çalışıyor?
Meedan’ın raporuna göre, tespit edilen uygulamaların çoğu benzer bir işlevsellik sunuyor: kullanıcılar tarafından yüklenen fotoğrafları, gelişmiş yapay zeka algoritmaları kullanarak cinsel içerikli veya çıplak görüntülere dönüştürmek. Bu uygulamalar, genellikle “elbise çıkarma”, “X-ray taraması” veya “şeffaf giysi” gibi aldatıcı etiketlerle pazarlanıyor ve potansiyel kurbanlar için ciddi tehditler oluşturuyor.
Hedef Kitle ve Yanıltıcı Tanımlar
- Rıza Dışı İçerik Üretimi: Uygulamaların temel amacı, kişilerin rızası olmadan cinsel içerikli görsellerini oluşturmak. Bu, siber zorbalık, şantaj ve taciz için tehlikeli bir zemin hazırlıyor.
- Çocukları Hedefleme Riski: Bazı uygulamaların arayüzleri ve pazarlama stratejileri, çocukları hedef alabilecek şekilde tasarlanmış olup, bu durum daha büyük etik ve yasal sorunlara yol açıyor.
- Aldatıcı Açıklamalar: Geliştiriciler, uygulama mağazalarının denetiminden kaçınmak için genellikle yanıltıcı başlıklar ve açıklamalar kullanıyor. “Eğlence amaçlı”, “sanatsal filtreler” veya “avatar oluşturucu” gibi ifadelerle gerçek niyetlerini gizlemeye çalışıyorlar.
Teknoloji Devlerinin Mücadelesi ve Süreçteki Zorluklar
Hem Google hem de Apple, uygulama mağazası politikalarında rıza dışı cinsel içerik barındıran veya üreten uygulamaları kesinlikle yasaklıyor. Ancak Meedan’ın bulguları, bu politikaların uygulanmasında ciddi boşluklar olduğunu gösteriyor. Daha önce de Sensity gibi kuruluşlar tarafından benzer raporlar yayınlanmış ve binlerce uygulamanın kaldırılmasına yol açmıştı; ancak sorun, yeni uygulamaların sürekli olarak ortaya çıkmasıyla devam ediyor.
Uygulama mağazaları, milyonlarca yeni başvuruyu ve güncellemeyi denetlemek için hem otomatik sistemlere hem de insan moderatörlere güveniyor. Ancak yapay zeka teknolojisinin hızla gelişmesi ve kötü niyetli geliştiricilerin sürekli yeni yöntemler bulması, bu denetim mekanizmalarını zorluyor. Uygulamaların tanımlarını veya anahtar kelimelerini değiştirerek filtreleri atlatmaları, sorunun derinleşmesine neden oluyor.
Bu durum, teknoloji şirketlerinin platformlarını güvende tutma ve kullanıcılarını koruma sorumluluklarının bir kez daha altını çiziyor. Uygulama mağazalarında bu tür tehlikeli yazılımların yayılmasının önüne geçmek için daha sıkı denetimler, daha gelişmiş yapay zeka tespit sistemleri ve uluslararası işbirliği gerektiği vurgulanıyor.
Google ve Apple’ın Uygulama Mağazalarında Hâlâ Uygunsuz Yapay Zekâ Uygulamaları Var Mı?
Evet, Meedan tarafından yapılan son araştırmaya göre Google Play Store ve Apple App Store’da, kullanıcıların yüklediği görselleri uygunsuz içeriklere dönüştürebilen 60’tan fazla yapay zeka destekli uygulama hala aktiftir.