Grok génère toujours des nus non consentis. Et personne ne semble s'en émouvoir.
190 images sexualisées par minute. C'était le rythme auquel les utilisateurs de X produisaient des deepfakes érotiques via Grok, en janvier dernier, selon une analyse du Center for Countering Digital Hate. Certaines représentaient des mineurs.
Vous m'avez bien lu. Des mineurs.
On pensait naïvement que la polémique avait servi à quelque chose. Que xAI avait corrigé le tir. Qu'Elon Musk, sous la pression des menaces d'interdiction dans plusieurs pays, avait enfin mis un peu d'ordre dans sa boutique. Une nouvelle enquête de Wired, publiée ce mois-ci, vient de démontrer le contraire.
Ce qu'a trouvé Wired et ce n'est pas rassurant
Les journalistes de Wired ont passé en revue des centaines de liens publics générés via Grok.com. Des dizaines menaient à des images et vidéos sexualisées par IA, incluant des personnes photographiées sans leur consentement. Certains de ces liens ont ensuite été partagés directement sur X. Ces derniers jours.
Pas en 2025. Ces derniers jours.
Pour rappel : début 2026, la réaction initiale de Musk face au scandale avait été de défendre le droit des utilisateurs à générer « ce qu'ils veulent » avec l'outil, dans les limites de la loi. Puis, sous pression, xAI avait restreint l'accès à la génération d'images aux seuls abonnés payants. Une mesure présentée comme une réponse sérieuse au problème.
C'était, en réalité, une mesure de communication. Pas une solution.
Le problème technique, réel, qu'on utilise comme excuse
Il faut être honnête : bloquer totalement ce type de dérive sur un outil d'IA générative, c'est techniquement difficile. Je ne dis pas que c'est impossible. Je dis que c'est difficile, et que ça mérite qu'on l'explique sans caricature.
Un modèle de langage n'applique pas des règles rigides il interprète du contexte. Interdire la commande « génère un nu de cette personne » ne sert à rien si l'utilisateur peut reformuler la même demande de cent façons différentes, dans cent contextes conversationnels différents. C'est exactement ce que Business Insider avait documenté avec ChatGPT sur les instructions de synthèse de drogues : les guardrails techniques ont leurs limites, et les utilisateurs mal intentionnés le savent parfaitement.
Donc oui. Le problème est réel. La contrainte technique existe.
Maintenant, est-ce que ça excuse le fait que xAI n'a visiblement pas déployé toutes les mesures disponibles pour limiter la casse ? Non. Absolument pas.
Le vrai problème, c'est le choix politique derrière la technique
Ce qui se passe chez xAI n'est pas un bug. C'est un positionnement. La philosophie de Musk, les utilisateurs font ce qu'ils veulent tant que c'est légal, peut sembler cohérente dans l'absolu. Appliquée à une plateforme avec plusieurs centaines de millions d'utilisateurs et un outil de génération d'images intégré directement dans le flux, elle devient une décision aux conséquences très concrètes pour des femmes réelles, des adolescentes réelles, dont les visages se retrouvent collés sur des corps pornographiques sans qu'elles aient eu leur mot à dire.
Ce n'est pas de la liberté d'expression. C'est de la violence faite aux femmes, emballée dans du libertarianisme de bazar.
Bonjour le foutage de gueule.
Le DSA, le règlement européen sur les services numériques, impose pourtant aux très grandes plateformes des obligations renforcées en matière de gestion des risques systémiques, dont font partie, explicitement, les contenus non consentis à caractère sexuel. La Commission européenne n'a pas été particulièrement véloce sur ce dossier jusqu'ici. Reste à voir si cette nouvelle enquête de Wired lui donnera envie d'accélérer.
Je ne retiens pas mon souffle.
À très vite,
