App Store’da gizli deepfake uygulamaları: Apple 19 uygulamayı kaldırdı

Masum görünen yüzlerce yapay zekâ uygulamasının, belirli koşullarda açılan gizli bir deepfake bölümü taşıdığı ortaya çıktı. Wired’ın araştırmasına göre bu uygulamalar hem Apple‘ın App Store’unda hem de Google Play’de inceleme sürecinden geçip yayına girdi.

Dil kursu kılığında deepfake aracı

Wired, birbirine bağlı 400’ü aşkın alan adı ve uygulamadan oluşan bir ağ tespit etti. Ağın arkasında tek bir Çinli yapının olduğu düşünülüyor. Uygulamalar mağazada dil dersi, yapay zekâ spor koçu ya da evcil hayvan fotoğrafına kıyafet giydirme gibi sıradan işler vaat ediyor. Kullanıcı yüklediği fotoğraftan ise müstehcen ve şiddet içeren sahte görüntüler, videolar üretebiliyor. Bu tür içerik, hedef alınan kişiyi aşağılamak ya da tehdit etmek için kullanılabiliyor.

Bunu da okuyun: Elon Musk, Grok Bot limitlerini düşürdü: Maliyet gelire göre çok yüksek

İncelemeden nasıl geçtiler?

Yöntem basit: Uygulama mağaza incelemesinde zararsız içerik gösteriyor, sonradan sunucu tarafında yapılan bir kontrolle gizli özellik açılıyor. Haberde, Facebook ve Instagram’daki deepfake reklamına tıklayıp uygulamayı indirmenin bu özelliği tetikleyen yollardan biri olduğu belirtiliyor. Ardından onlarca hazır şablon iniyor, görüntü üretmek için kredi satın alınıyor. Bazı uygulamalar bir yıldır yayında; üç şirketin de zararlı deepfake içeriği açıkça yasaklayan kuralları var.

Apple ve Meta ne dedi?

Apple, Wired ayrıntıları paylaşınca 19 uygulamayı mağazadan kaldırdı. Şirket, uygulamaların inceleme sırasında kurallara uyduğunu, onaydan sonra geliştiricilerin içeriğin çekildiği web sitesini değiştirip yerine pornografik içerik koyduğunu açıkladı. Apple bu yönteme karşı korumalarını yakın zamanda güçlendirdiğini de söyledi. Meta ise bu alan adlarıyla bağlantılı 10 binden fazla reklam hesabına işlem yaptığını bildirdi.

Telefonunda tanımadığı geliştiriciye ait, reklamdan indirilmiş bir yapay zekâ uygulaması olanların, uygulamanın istediği izinleri ve fotoğraf erişimini gözden geçirmesinde fayda var.

Kaynak: 9to5Mac, Wired