Suite à un rapport du Wall Street Journal affirmant qu'OpenAI travaillait sur un outil capable de reconnaître avec une grande précision les rédactions écrites en ChatGPT, la société a partagé quelques informations sur ses recherches dans le domaine des filigranes textuels - et pourquoi elle n'a pas publié sa méthode de reconnaissance. Selon le rapport du Wall Street Journal, le débat sur l'opportunité de publier l'outil a fait qu'il n'a pas vu le jour alors qu'il était "prêt". Dans une mise à jour publiée dimanche d'un billet de blog datant du mois de mai et repéré par TechCrunch, OpenAI a déclaré : "Nos équipes ont développé une méthode de reconnaissance des filigranes textuels que nous continuons à examiner tout en recherchant des alternatives".
La société a déclaré que le filigrane était l'une des nombreuses solutions, y compris les classificateurs et les métadonnées, qu'elle avait étudiées dans le cadre d'une "recherche approfondie dans le domaine de la provenance des textes". Selon OpenAI, cette solution s'est avérée très précise dans certaines situations, mais ne fonctionne pas aussi bien lorsque certaines formes de manipulation se produisent, comme l'utilisation de systèmes de traduction, la reformulation avec un autre modèle génératif ou l'instruction donnée au modèle d'insérer un caractère spécifique entre chaque mot, puis d'effacer ce caractère. Et les filigranes textuels pourraient "affecter certains groupes de manière disproportionnée", écrit OpenAI. "Par exemple, cela pourrait stigmatiser l'utilisation de l'IA comme outil d'écriture utile pour les locuteurs non natifs".
Selon le billet de blog, OpenAI a évalué ces risques. La société a également écrit qu'elle avait donné la priorité à la publication d'outils d'authentification pour le contenu audiovisuel. Dans une déclaration à TechCrunch, un porte-parole d'OpenAI a déclaré que la société avait adopté une "approche délibérée" pour la provocation textuelle en raison de "la complexité associée et de l'impact probable sur l'écosystème plus large au-delà d'OpenAI".
