Technologies
Le réseau social X, propriété d’Elon Musk, fait face à une nouvelle vague de pressions réglementaires à l’international. En cause : l’utilisation de son chatbot d’intelligence artificielle Grok pour générer des images sexualisées, parfois sans consentement, et dans certains cas impliquant des mineurs.
Depuis plusieurs semaines, une pratique inquiétante s’est répandue sur X : des utilisateurs demandent à Grok de transformer des photos de personnes réelles — majoritairement des femmes — en images dénudées ou sexualisées. Selon plusieurs observateurs, ces usages ont parfois franchi une ligne rouge en visant des acteurs mineurs, exposant la plateforme à de graves accusations liées à la diffusion de contenus illégaux.
Face à ces dérives, plusieurs régulateurs ont réagi. D’après des informations relayées par TechCrunch, le ministère indien des Technologies de l’information a ordonné à X de prendre des « mesures correctives » sous 72 heures. L’entreprise doit détailler comment elle compte empêcher la génération et la diffusion de contenus jugés obscènes, pornographiques ou contraires à la loi.
L’Union européenne, la Malaisie et le régulateur britannique Ofcom ont également demandé des explications à X, exigeant des garanties concrètes pour la protection des utilisateurs, en particulier des mineurs.
Elon Musk a reconnu la gravité du problème, affirmant que toute personne utilisant Grok pour produire du contenu illégal s’exposerait aux mêmes sanctions que si elle publiait directement ce type de contenus. Une déclaration jugée insuffisante par de nombreux experts, alors que la plateforme est déjà sous enquête pour d’autres images offensantes générées par son IA.
Cette controverse souligne les limites d’une approche axée sur le déploiement rapide de nouveaux outils d’IA, avec des garde-fous encore imparfaits. Si X devrait introduire certaines restrictions techniques pour répondre aux régulateurs, rien n’indique pour l’instant un réel recul sur le développement de ses fonctionnalités de génération d’images, perçues comme un levier stratégique de croissance.
Alors que les autorités américaines et européennes renforcent leur vigilance sur les usages de l’IA, X pourrait se retrouver au cœur d’un nouveau bras de fer juridique international. La manière dont la plateforme adaptera — ou non — Grok dans les prochains mois sera déterminante pour son avenir réglementaire et sa crédibilité en matière de sécurité numérique.
Depuis plusieurs semaines, une pratique inquiétante s’est répandue sur X : des utilisateurs demandent à Grok de transformer des photos de personnes réelles — majoritairement des femmes — en images dénudées ou sexualisées. Selon plusieurs observateurs, ces usages ont parfois franchi une ligne rouge en visant des acteurs mineurs, exposant la plateforme à de graves accusations liées à la diffusion de contenus illégaux.
Face à ces dérives, plusieurs régulateurs ont réagi. D’après des informations relayées par TechCrunch, le ministère indien des Technologies de l’information a ordonné à X de prendre des « mesures correctives » sous 72 heures. L’entreprise doit détailler comment elle compte empêcher la génération et la diffusion de contenus jugés obscènes, pornographiques ou contraires à la loi.
L’Union européenne, la Malaisie et le régulateur britannique Ofcom ont également demandé des explications à X, exigeant des garanties concrètes pour la protection des utilisateurs, en particulier des mineurs.
Elon Musk a reconnu la gravité du problème, affirmant que toute personne utilisant Grok pour produire du contenu illégal s’exposerait aux mêmes sanctions que si elle publiait directement ce type de contenus. Une déclaration jugée insuffisante par de nombreux experts, alors que la plateforme est déjà sous enquête pour d’autres images offensantes générées par son IA.
Cette controverse souligne les limites d’une approche axée sur le déploiement rapide de nouveaux outils d’IA, avec des garde-fous encore imparfaits. Si X devrait introduire certaines restrictions techniques pour répondre aux régulateurs, rien n’indique pour l’instant un réel recul sur le développement de ses fonctionnalités de génération d’images, perçues comme un levier stratégique de croissance.
Alors que les autorités américaines et européennes renforcent leur vigilance sur les usages de l’IA, X pourrait se retrouver au cœur d’un nouveau bras de fer juridique international. La manière dont la plateforme adaptera — ou non — Grok dans les prochains mois sera déterminante pour son avenir réglementaire et sa crédibilité en matière de sécurité numérique.
L’AF2M annonce la disponibilité du RCS Basic Message
