AI Act : OpenAI filigrane les textes de ChatGPT en Europe, la détection tombe à 17 % si 25 % des mots changent
OpenAI active textGrain, un filigrane invisible apposé sur les textes générés par ses modèles, pour répondre à l'obligation de marquage de l'article 50 de l'AI Act. Selon Next, qui en rend compte le 6 octobre 2026, la fonction est déjà disponible dans l'API, uniquement dans l'Union européenne, et arrivera dans ChatGPT et Codex dans les prochaines semaines. Pour un DPO, les chiffres publiés par OpenAI comptent autant que l'annonce : ils disent ce qu'un filigrane prouve, et surtout ce qu'il ne prouve pas.
Ce qu'OpenAI a annoncé
D'après la fiche technique d'OpenAI citée par Next, textGrain ajoute un « signal statistique invisible » au choix des mots : la technique « modifie subtilement la manière dont le modèle choisit de façon aléatoire entre plusieurs mots ou fragments de mots possibles au fil de la génération ». Sur un passage entier, ces choix forment un motif qu'un détecteur peut repérer, même après certaines modifications. Aucun caractère caché, espace invisible ni signe de ponctuation inhabituel n'est ajouté.
Dans l'API, la fonction s'active depuis les réglages, et seulement dans l'UE. L'outil de détection, lui, reste réservé à des chercheurs et à des organisations sélectionnés. OpenAI indique vouloir publier sa technologie en open source, sans calendrier rapporté par Next.
OpenAI suit ainsi Anthropic, qui filigrane les textes de Claude depuis août avec une approche comparable, au niveau du modèle.
Les chiffres de détection publiés par OpenAI
- Textes longs : sur des passages de 400 tokens, avec un taux de faux positifs cible de 1 %, le détecteur repère le filigrane dans 95 % des cas. Le taux varie selon le sujet : élevé en psychologie, nettement plus bas en mathématiques, où le choix des mots est plus contraint.
- Langues : sur 500 prompts générés en anglais puis traduits, l'espagnol obtient le meilleur taux (69 %) et le roumain le plus faible (42,2 %). Le français dépasse 60 %. Un réglage d'intensité du signal permet de relever les langues les moins bien détectées.
- Réécriture : un taux de 92 % tombe à 66 % quand 10 % des mots sont remplacés par des synonymes, et à 17 % quand 25 % le sont.
- Textes courts : la technique y est peu efficace, rappelle OpenAI. Selon Next, le code de bonnes pratiques sur la transparence n'impose d'ailleurs pas de filigrane sous 200 tokens, soit environ 150 mots en anglais.
Pourquoi c'est important
L'article 50 de l'AI Act s'applique depuis le 2 août 2026. Il impose aux fournisseurs de systèmes génératifs de marquer leurs sorties dans un format lisible par machine, avec une période de grâce jusqu'au 2 décembre 2026 pour les systèmes déjà sur le marché avant le 2 août (notre point sur l'échéance du 2 août). Le code de bonnes pratiques sur les contenus générés par IA en précise la mise en œuvre, et la Commission a rappelé qu'un filigrane seul ne suffit pas : les fournisseurs doivent combiner plusieurs techniques.
Le point décisif tient aux limites qu'OpenAI reconnaît elle-même. Selon l'entreprise, un filigrane ne mesure pas la contribution d'un humain, ne dit pas à qui appartient le texte ni qui en est responsable, n'identifie pas l'utilisateur et ne mesure pas la fiabilité du contenu. Son absence ne prouve pas qu'un humain a écrit le texte. C'est le même constat que pour Claude : le marquage est un signal technique de provenance, pas une preuve.
Ce que ça change pour les organisations
Pour une organisation qui utilise ChatGPT ou l'API d'OpenAI en tant que déployeur, l'obligation de marquage pèse d'abord sur le fournisseur. Quelques vérifications restent utiles :
- Inventorier les usages. Repérer les intégrations de l'API d'OpenAI dans vos outils et vérifier, dans les réglages du compte UE, si textGrain est activé. Le registre des systèmes d'IA est le bon endroit pour le tracer.
- Ne pas fonder une décision sur la détection. Un résultat positif ou négatif ne tranche ni un soupçon de fraude, ni une question de paternité, ni un contrôle disciplinaire. Les chiffres de réécriture le montrent : remplacer 25 % des mots par des synonymes fait passer un taux de 92 % à 17 %.
- Distinguer les obligations de déployeur. Le marquage du fournisseur ne couvre pas les obligations propres au déployeur, comme signaler les textes publiés pour informer le public sur des questions d'intérêt général. Le guide de conformité AI Act détaille la répartition des rôles.
- Mettre à jour la charte IA. Préciser ce que les équipes peuvent attendre du filigrane et ce qu'il ne garantit pas, dans votre charte d'usage de l'IA.
Ce que Leto en pense
Deux grands fournisseurs ont désormais choisi un filigrane statistique au niveau du modèle, ce qui donne une idée assez nette de la façon dont l'article 50 sera appliqué aux textes. La transparence d'OpenAI sur ses taux d'erreur est une bonne nouvelle : elle donne aux DPO de quoi expliquer en interne pourquoi un détecteur ne remplace pas une procédure. Reste à savoir si le détecteur sortira du cercle des testeurs sélectionnés. Tant qu'il n'est pas accessible, le filigrane sert surtout au fournisseur à démontrer sa conformité, et beaucoup moins aux organisations qui reçoivent les textes. Pour cartographier vos systèmes d'IA et les obligations qui s'y attachent, demandez une démo de Leto.
Sources
