Alors que Grok a mis en place des mesures de protection tardives pour empêcher la diffusion d’images sexualisées générées par l’IA, d’autres outils sont soumis à bien moins de restrictions

The Guardian, 14 janvier 2026. Traduit de l’anglais par le Kiosque Médias.

« Depuis que j’ai découvert Grok AI, le porno classique ne me satisfait plus, ça me semble tout simplement absurde maintenant », a écrit sur Reddit un adepte du chatbot IA appartenant à Elon Musk. Un autre a abondé dans ce sens : « Si je veux une personne bien précise, oui. »

Si ceux qui ont été horrifiés par la diffusion d’images à caractère sexuel sur Grok espéraient que les mesures de protection tardives mises en place la semaine dernière permettraient de remettre le génie dans la bouteille, de nombreux messages de ce type sur Reddit et ailleurs racontent une toute autre histoire.

Et si Grok a sans aucun doute transformé la perception du public quant au pouvoir de l’intelligence artificielle, il a également mis en lumière un problème bien plus vaste : la disponibilité croissante d’outils et de moyens de diffusion qui placent les régulateurs du monde entier face à ce que beaucoup considèrent comme une tâche impossible. Alors même que le Royaume-Uni annonce que la création d’images sexuelles et intimes non consenties sera bientôt une infraction pénale, les experts affirment que l’utilisation de l’IA pour nuire aux femmes ne fait que commencer.

D’autres outils d’IA sont dotés de mesures de protection beaucoup plus strictes. Lorsqu’on lui demande de déshabiller une femme sur une photo pour la mettre en bikini, le grand modèle linguistique (LLM) Claude répond : « Je ne peux pas faire ça. Je ne suis pas capable de modifier des images pour changer des vêtements ou créer des photos manipulées de personnes. » ChatGPT et l’outil d’IA de Google, Gemini, créeront des images en bikini, mais rien de plus explicite.

Cependant, les restrictions sont bien moins nombreuses ailleurs. Les utilisateurs du forum Grok sur Reddit ont partagé des astuces pour générer les images pornographiques les plus extrêmes possibles à partir de photos de femmes réelles. Dans un fil de discussion, certains se plaignaient que Grok leur permettait de créer des images de femmes seins nus « après quelques difficultés », mais refusait de générer des parties génitales. D’autres ont remarqué qu’en demandant une « nudité artistique », on contournait les mesures de sécurité empêchant de déshabiller complètement les femmes.

Au-delà des LLM et des grandes plateformes se trouve tout un écosystème de sites web, de forums et d’applications consacrés à la nudification et à l’humiliation des femmes. Ces communautés trouvent de plus en plus de moyens d’accéder au grand public, a déclaré Anne Craanen, chercheuse à l’Institute for Strategic Dialogue (ISD) travaillant sur la violence sexiste facilitée par la technologie.

Sur Reddit et Telegram, des communautés discutent des moyens de contourner les garde-fous pour amener les LLM à produire de la pornographie, un processus connu sous le nom de « jailbreaking ». Des fils de discussion sur X diffusent des informations sur les applications de « nudification », qui génèrent des images de femmes dénudées à l’aide de l’IA, et sur la manière de les utiliser.

Mme Craanen a déclaré que les voies permettant aux contenus misogynes d’atteindre l’ensemble de l’Internet s’étaient élargies, ajoutant : « Il y a là un terrain très fertile pour que la misogynie prospère. »

Une étude menée par l’ISD l’été dernier a recensé des dizaines d’applications et de sites web de « nudification », qui ont collectivement reçu près de 21 millions de visiteurs en mai 2025. Ces outils ont été mentionnés 290 000 fois sur X en juin et juillet de l’année dernière. Une étude menée par l’American Sunlight Project en septembre a révélé qu’il existait des milliers de publicités pour de telles applications sur Meta, malgré les efforts de la plateforme pour les réprimer.

« Il existe des centaines d’applications disponibles sur les principales boutiques d’applications, comme celles d’Apple et de Google, qui rendent cela possible », a déclaré Nina Jankowicz, experte en désinformation et cofondatrice de l’American Sunlight Project. « Une grande partie de l’infrastructure permettant la création de deepfakes à caractère sexuel est soutenue par des entreprises que nous utilisons tous au quotidien. »

Clare McGlynn, professeure de droit et experte en matière de violence à l’égard des femmes et des filles à l’université de Durham, a déclaré qu’elle craignait que la situation ne fasse qu’empirer. « OpenAI a annoncé en novembre dernier qu’il allait autoriser le contenu « érotique » dans ChatGPT. Ce qui s’est passé sur X montre que toute nouvelle technologie est utilisée pour abuser et harceler les femmes et les filles. Que verrons-nous alors sur ChatGPT ?

« Les femmes et les filles sont bien plus réticentes à utiliser l’IA. Cela ne devrait surprendre personne. Les femmes ne voient pas cela comme une nouvelle technologie passionnante, mais simplement comme de nouveaux moyens de nous harceler, de nous maltraiter et d’essayer de nous pousser hors ligne. »

Jess Asato, députée travailliste de Lowestoft, mène campagne sur cette question et a déclaré que ses détracteurs s’amusaient à créer et à partager des images explicites d’elle – même depuis la mise en place des restrictions sur Grok. « Cela m’arrive encore et ces images sont publiées sur X parce que j’en parle ouvertement », a-t-elle ajouté.

Asato a ajouté que les abus liés aux deepfakes générés par l’IA touchent les femmes depuis des années et ne se limitent pas à Grok. « Je ne sais pas pourquoi [les mesures] ont pris autant de temps. J’ai parlé à tant de victimes qui ont subi des choses bien pires. »

Bien que le compte public Grok X ne génère plus d’images pour les utilisateurs ne disposant pas d’un abonnement payant, et que des mesures de sécurité semblent avoir été mises en place pour empêcher la création d’images de personnes en bikini, son outil intégré à l’application est soumis à bien moins de restrictions.

Les utilisateurs peuvent toujours créer des images à caractère sexuellement explicite à partir de photos de personnes réelles entièrement habillées, sans aucune restriction pour les utilisateurs gratuits de X. Lorsqu’on lui demande de « déshabiller » une photo pour y faire apparaître des tenues de bondage, l’application s’exécute. Il place également les femmes dans des positions sexuellement compromettantes et les recouvre de substances blanches ressemblant à du sperme.

Le but de la création de nus deepfake n’est souvent pas seulement de partager des images érotiques, mais aussi d’en faire un spectacle, a déclaré Craanen – d’autant plus que ces images inondent des plateformes comme X.

« C’est le va-et-vient même de la situation, [essayer] de faire taire quelqu’un en disant : “Grok, mets-la en bikini” », a-t-elle déclaré.

« La mise en scène est vraiment importante ici, et elle révèle clairement les sous-entendus misogynes de cette pratique, qui vise à punir ou à réduire les femmes au silence. Cela a également un effet en cascade sur les normes démocratiques et le rôle des femmes dans la société. »