OpenAI va filigraner les textes de ChatGPT dans l’UE avec textGrain

Un modèle de langage écrit token par token (un mot ou un fragment de mot), en tirant chaque terme parmi plusieurs candidats. textGrain oriente discrètement ce tirage à l’aide d’une clé secrète et du contexte qui précède. Sur un passage entier, ces choix forment un motif statistique qu’un détecteur peut rechercher. Selon OpenAI, il n’ajoute ni caractère caché, ni espace invisible, ni ponctuation inhabituelle : il réside dans la formulation elle-même.

Le rapport technique publié avec l’annonce, cosigné par des chercheurs d’OpenAI et des universités de Pennsylvanie et de Yale, précise que la détection ne requiert que le texte et la clé, sans accès au modèle. Le signal est binaire : il signale la présence d’un filigrane, sans transporter d’identifiant. OpenAI prévoit de publier la technologie en open source.

Dans l’UE, le filigrane sera activé pour les utilisateurs éligibles de ChatGPT et de Codex, toutes formules confondues. OpenAI précise qu’il ne s’agit pas d’un réglage mondial par défaut. Côté API, l’option est ouverte depuis le 5 octobre pour certains modèles, dans le monde entier, mais reste désactivée par défaut.

Le détecteur n’est pas public : chercheurs et organismes spécialisés peuvent demander un accès, accordé au cas par cas. L’outil indique seulement si un filigrane OpenAI est présent, sans identifier l’utilisateur ni révéler ses requêtes.

L’article 50 du règlement européen sur l’IA (2024/1689) impose aux fournisseurs de systèmes générant du texte, des images, du son ou de la vidéo de marquer ces contenus dans un format lisible par machine, pour qu’ils soient identifiables comme générés par une IA. Les solutions doivent être « aussi efficaces, interopérables, solides et fiables que la technologie le permet ».

Ces obligations de transparence s’appliquent depuis le 2 août 2026. Le règlement omnibus numérique 2026/1744 du 8 juillet 2026 laisse toutefois aux systèmes commercialisés avant cette date, ce qui est le cas de ChatGPT, jusqu’au 2 décembre 2026 pour se conformer à l’obligation de marquage. Un manquement peut coûter jusqu’à 15 millions d’euros ou 3 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu. OpenAI dit aussi agir dans le cadre du code de bonnes pratiques européen sur la transparence des contenus générés par IA, finalisé le 10 juin 2026, dont il est signataire.

OpenAI reconnaît que de bons résultats en conditions idéales « ne garantissent pas une détection fiable » au quotidien. Les textes courts sont plus difficiles à repérer : pour un taux de faux positifs visé de 1 %, le détecteur a repéré le filigrane dans environ 80 % des passages de 200 tokens, contre 95 % pour ceux de 400 tokens, sur des réponses portant sur la psychologie. Les taux chutent nettement en mathématiques, où le choix des mots est plus contraint.

La retouche affaiblit aussi le signal. Sur des passages de 400 tokens, remplacer 10 % des mots par des synonymes fait passer la détection d’environ 92 % à 66 %, et 25 % de substitutions la ramènent à 17 %. Une paraphrase importante ou une traduction peut rendre le filigrane indétectable, prévient la page d’aide.

Quant aux faux positifs, le rapport technique précise que le taux d’erreur théorique repose sur des hypothèses idéalisées, et qu’une clé déployée en conditions réelles exige des vérifications de calibrage empiriques.

Une détection peut indiquer qu’un système d’OpenAI a produit ou traité une partie d’un texte, sans rien dire de la part de travail humain, de l’exactitude du contenu ou de son auteur. À l’inverse, l’absence de filigrane ne prouve pas qu’un humain a écrit le texte : il peut être trop court, retouché, traduit, antérieur au dispositif ou issu d’un autre outil.