Enquête App Store : des deepfakes pornographiques en quelques clics
Apple face à un nouveau défi.
Apple est réputée pour son contrôle strict des applications disponibles sur l’App Store. La firme à la pomme a toujours mis en avant la sécurité et le respect de la vie privée de ses utilisateurs. Pourtant, un récent rapport de 404 Media révèle l’existence d’applications détournées de leur usage principal, et qui semblent échapper à la vigilance d’Apple.
La modification d’image par intelligence artificielle n’est pas nouvelle. En 2017, il était déjà possible de modifier l’apparence de notre visage à notre guise avec Faceswap. Le résultat à l’époque était déjà impressionnant, mais en 2024, de nouveaux défis sont à prendre en compte.
Un nouveau rapport sur le sujet vient d’être publié par 404 Media. C’est par ailleurs l’un de leurs journalistes qui a découvert des informations factuelles concernant le fait que le micro de nos iPhone est espionné à des fins publicitaires.
Des deepfakes pornographiques en quelques clics
404 Media met aujourd’hui en lumière une application d’échange de visages. Pour 20$ par mois, elle permet de générer facilement des deepfakes pornographiques sans le consentement des personnes concernées. Il suffit de fournir une photo de la victime et d’utiliser le navigateur intégré pour accéder à la vidéo dans laquelle on souhaite l’incruster. Le journaliste Emanuel Maiberg, auteur de l’investigation, précise à ce propos :
« Tout ce que j’avais à faire était de fournir une image de la personne que je voulais truquer et d’utiliser un navigateur Internet intégré à l’application pour accéder à la vidéo dans laquelle je voulais qu’elle apparaisse. Comme le suggérait la publicité que j’ai vue sur Reddit, lorsque je naviguais vers une vidéo Pornhub spécifique, l’application récupérait automatiquement la vidéo et créait un deepfake porno de la personne dans l’image que j’avais fournie. »
Le résultat, obtenu en moins de 5 minutes, est d’une qualité déconcertante. Cette application semble être un moyen détourné de proposer du contenu pornographique sur l’App Store, malgré l’interdiction d’Apple.
Apple face à un nouveau défi
Si la firme de Cupertino n’autorise pas les applications pornographiques, elle va devoir redoubler de vigilance face à ces applications à double usage qui contournent habilement ses règles.
Rappelons qu’Apple a pris des précautions avec son générateur Image Playground. Elle empêche premièrement la création d’images photoréalistes, et deuxièmement, elle balise systématiquement les contenus générés.
