Pouvons-nous encore marquer les machines ?

Scott Aaronson, lauréat de l'ACM Prize in Computing et élu à la National Academy of Sciences en 2026, revient sur la genèse du watermarking textuel, qu'il a développé dès l'été 2022 lors de son arrivée chez OpenAI. Cette technique modifie légèrement le fonctionnement des modèles de langage en incorporant un signal statistique dans l'aléa cryptographique utilisé pour sélectionner les mots, permettant de certifier non seulement qu'un texte provient d'une IA, mais aussi d'identifier le modèle spécifique qui l'a généré, sans dégrader la qualité des réponses.

Depuis le 2 août, l'AI Act impose aux fournisseurs européens de rendre détectables les contenus générés par IA. Anthropic a annoncé l'intégration de ce watermark invisible à Claude, ravivant d'anciens débats : le marquage est-il souhaitable ? Offre-t-il une robustesse suffisante face aux techniques d'effacement ? Aaronson, qui travaille sur la sécurité de l'IA depuis avant le lancement de ChatGPT, aborde également ses préoccupations quant aux transformations de la recherche mathématique et les raisons de son départ d'OpenAI.