Deux jours après l'avoir imposée à tout le monde par défaut, Muse Image est retiré
Quarante-huit heures. C'est le temps qu'il a fallu à Meta pour comprendre que permettre à n'importe qui de coller le visage et les posts d'autrui dans des images générées par IA, sans demander la permission, en cochant la case « oui » pour tout le monde d'entrée de jeu, était peut-être une mauvaise idée. Quarante-huit heures et un torrent de protestations.
Bravo pour la réactivité. Moins bravo pour avoir lancé le truc.
Ce qui s'est passé, concrètement
La semaine dernière, Meta annonçait Muse, son nouveau modèle de génération d'images et de vidéos, présenté comme son outil d'IA le plus avancé à ce jour. Dans le même package, une nouveauté : les utilisateurs d'Instagram pouvaient désormais intégrer les contenus publics d'autres comptes dans leurs créations IA, simplement en @mentionnant le profil concerné.
Ce n'est pas la fonctionnalité en elle-même qui a mis le feu aux poudres. C'est le détail que Meta a glissé en petits caractères : la fonction était activée par défaut pour tous les comptes. Tout le monde. Sans opt-in. Vous vouliez ne pas y participer ? Vous deviez explicitement aller décocher quelque chose quelque part.
Bonjour le foutage de gueule.
Les agences de talents ont réagi dans les heures qui ont suivi, alertant leurs clients sur les risques d'usurpation d'identité. Variety a relayé les inquiétudes. Les utilisateurs lambda ont, eux, simplement exprimé leur colère.
Résultat : deux jours après le lancement, Meta publiait ce communiqué d'une neutralité remarquable :
« Notre intention était de fournir un outil créatif utile et de donner aux gens le contrôle sur la façon dont leur contenu public pouvait être référencé. Nous avons entendu les retours indiquant que cette fonctionnalité ratait sa cible. Elle n'est donc plus disponible. »
« Ratait sa cible. » C'est une façon polie de dire que vous veniez d'exposer des millions de personnes à un outil de détournement d'image sans leur consentement.
« Move fast and break things » : la devise qui ne passe plus
Le fait que Meta ait agi vite, d'accord. C'est bien. Mais la vraie question, celle que la vitesse du correctif ne doit pas nous faire oublier : comment une telle fonctionnalité a-t-elle pu être validée en interne ?
Ce n'est pas une question rhétorique. C'est une question de gouvernance.
L'ancienne devise interne de Facebook « move fast and break things » résume une philosophie qui a, au fil des années, produit des dégâts documentés : scandales de données personnelles, effets prouvés sur la santé mentale des adolescents, weaponisation des plateformes à des fins politiques, addiction by design. On ne parle pas de dommages collatéraux imprévus. On parle de conséquences que des chercheurs, des régulateurs, des associations signalaient depuis des années, pendant que Meta optimisait son taux d'engagement.
Deux décennies de réseaux sociaux plus tard, le bilan est difficile à défendre et les mêmes réflexes sont à l'œuvre sur l'IA.
L'Europe régule, les États-Unis déroulent, et Meta choisit son camp
Pendant ce temps, Meta travaille activement à renforcer ses liens avec l'administration Trump, dans l'espoir d'obtenir un soutien politique face aux régulations qui freinent son déploiement. La stratégie est claire : contourner les garde-fous plutôt que les intégrer.
Du côté européen, la Commission a obligé Meta à retarder le déploiement de ses outils d'IA conversationnelle le temps d'en évaluer les impacts. Le DSA et l'AI Act ne sont pas des obstacles bureaucratiques : ce sont des tentatives imparfaites, lentes, mais réelles d'anticiper les dérives avant qu'elles se produisent plutôt qu'après. Meta a été condamnée à plus d'un milliard de dollars d'amendes par an en Europe au cours des trois dernières années pour violations diverses. Elle préférerait visiblement payer que changer de méthode.
Aux États-Unis, le gouvernement pousse à l'accélération pour ne pas perdre la course à l'IA. Alléger les contraintes, aller plus vite, déployer d'abord. Réfléchir si le temps le permet.
Ce n'est pas une stratégie industrielle. C'est un pari.
La vraie question que personne ne veut poser
Que se passe-t-il quand des millions de personnes développent une dépendance à un chatbot IA ? Quels sont les effets à long terme de l'interaction artificielle sur la santé mentale ? Sur les enfants ? Sur les adolescents qui grandissent avec ces outils comme seuls interlocuteurs disponibles à 2h du matin ?
On ne sait pas. Et le problème, c'est que Meta ne semble pas pressée de le savoir avant de déployer.
Dans dix ans, on regardera peut-être cette période comme on regarde aujourd'hui les premières années des réseaux sociaux : en se demandant pourquoi personne n'a appuyé sur pause, pourquoi on a laissé faire, pourquoi on n'a pas exigé des preuves d'innocuité avant l'échelle planétaire.
L'épisode du remix IA est anecdotique en lui-même. Il est révélateur dans ce qu'il dit de la méthode.
À très vite,
SJ
