Les récentes révélations sur des applications IA dissimulant des outils de deepfakes sexuels sur l’App Store et Google Play ont choqué le monde numérique. Derrière des interfaces apparemment inoffensives, se cachent des fonctionnalités inquiétantes qui ont réussi à tromper les géants de la technologie. Comment ces applications ont-elles échappé à la vigilance des plateformes et quelles mesures sont prises pour prévenir de telles dérives à l’avenir ?
L’essentiel à retenir
- Des applications IA, sous des apparences inoffensives, cachaient des outils pour créer des vidéos pornographiques à partir de photos réelles.
- Les développeurs, liés à KeLing Technology Limited, ont diffusé ces applications sur l’App Store et Google Play, utilisant des publicités sur Facebook et Instagram pour attirer les utilisateurs.
- Après les révélations, Apple et Google ont retiré plusieurs applications, et Meta a pris des mesures contre des milliers de comptes publicitaires liés.
Vous souvenez-vous de la première fois où vous avez téléchargé une application de retouche photo amusante, peut-être pour ajouter des accessoires virtuels à votre animal de compagnie ? Ce qui semblait être un simple divertissement pourrait cacher des intentions bien plus sombres. Avec la montée en puissance des technologies de l’information, la frontière entre l’innovation et l’exploitation devient de plus en plus floue, comme en témoignent les récentes découvertes concernant les applications de deepfake. La situation invite à réfléchir sur l’avenir de la cybersécurité et sur les moyens de protéger les utilisateurs des abus technologiques.
Des outils de deepfake cachés sous des applications inoffensives
Les utilisateurs de Viefur pensaient simplement ajouter une touche d’humour à leurs photos. Cependant, des chercheurs en cybersécurité ont découvert que l’application cachait un outil pour créer des vidéos pornographiques à partir de photos réelles, un phénomène préoccupant qui a été rendu possible grâce à des technologies avancées de deepfake.
WIRED, en collaboration avec AI Forensics et Infoblox, a relié Viefur à plus de 400 applications et sites internet. Ces plateformes, apparemment inoffensives, étaient en fait des façades pour des services de « nudification ».
Une opération bien orchestrée par des développeurs chinois
Les développeurs de ces applications, souvent enregistrées sous des noms de sociétés à Hong Kong telles que KeLing Technology Limited, ont créé un vaste réseau de plus de 500 domaines. Les commentaires dans le code source, rédigés en chinois, révèlent un hébergement centralisé en Chine.
Chaque semaine, de nouvelles applications et sites étaient mis en ligne, évitant ainsi les radars des contrôles de sécurité des géants technologiques.
Les géants technologiques pris au dépourvu
Bien qu’Apple et Google aient des protocoles stricts de vérification, ces applications ont néanmoins réussi à se frayer un chemin jusqu’à leurs plateformes. Selon Adam Dema d’Apple, les développeurs modifiaient les contenus après la publication de l’application, rendant les contrôles initiaux obsolètes.
Face à ces découvertes, Apple a retiré 19 applications, tandis que Google, ayant été alerté par WIRED, a également pris des mesures similaires.
Une campagne publicitaire trompeuse sur les réseaux sociaux
Pour attirer les utilisateurs, les développeurs ont investi dans des campagnes publicitaires massives sur Facebook et Instagram. Des publicités, souvent sous des noms d’annonceurs fictifs, masquaient la véritable nature de ces applications.
Meta, l’entreprise mère de Facebook et Instagram, a réagi en bloquant des milliers de comptes publicitaires après avoir été mis au courant de la situation par WIRED.
Applications IA et défis de la cybersécurité en 2026
En 2026, le défi de la cybersécurité s’accentue avec l’essor des technologies IA. Les entreprises doivent redoubler d’efforts pour sécuriser leurs plateformes et garantir que des outils malveillants ne se dissimulent pas parmi des applications légitimes.
La collaboration entre les acteurs de la technologie et les chercheurs en cybersécurité devient essentielle. Des initiatives comme celles de AI Forensics et Infoblox sont cruciales pour détecter et prévenir les abus de la technologie IA.
Le secteur des applications mobiles face à la régulation renforcée
Le secteur des applications mobiles est en pleine mutation. Avec des incidents tels que ceux impliquant Viefur, les régulateurs mondiaux renforcent leur surveillance. Le RGPD en Europe et des lois similaires ailleurs imposent des règles strictes pour protéger les données des utilisateurs.
Les entreprises comme KeLing Technology Limited ne sont pas les seules à être dans le viseur des régulateurs. D’autres acteurs, tels que GatherOne, ont également été pointés du doigt pour des pratiques similaires. La question de la responsabilité des plateformes comme Google et Apple dans la validation des applications est de plus en plus discutée.
FAQ sur les applications IA et les deepfakes
Quels risques présentent les deepfakes pour les utilisateurs ?
Les deepfakes peuvent être utilisés pour manipuler des images et des vidéos, souvent à des fins malveillantes, comme le chantage ou la diffusion de fausses informations. Cela pose des problèmes de respect de la vie privée et de sécurité.
Comment les applications de deepfake parviennent-elles sur les plateformes légitimes ?
Les développeurs exploitent des failles dans les processus de vérification ou modifient les contenus après approbation. Cela permet à des applications malveillantes de se cacher sous des apparences inoffensives.
Quelles mesures prennent les entreprises technologiques pour prévenir ces abus ?
Les entreprises renforcent leurs politiques de vérification et retirent rapidement les applications signalées. Elles collaborent également avec des chercheurs en cybersécurité pour détecter les menaces émergentes.
Quelles sont les conséquences pour les développeurs de ces applications malveillantes ?
Les développeurs s’exposent à des sanctions légales, et leurs applications peuvent être interdites sur les plateformes. Les régulateurs et les entreprises surveillent de près ces activités pour protéger les utilisateurs.