Mais depuis environ un an, Open AI dit disposer d’un système performant pour détecter les textes générés par son modèle ChatGPT, mais a choisi de ne pas le déployer. Le Wall Street Journal révèle dans son édition du 4 août, que cette technologie est capable d’identifier les productions de ChatGPT avec une précision de 99,9 %.

Pour rappel, l’outil d’intelligence artificielle générative ChatGPT, lancé en novembre 2022 et largement accessible au public, est capable de rédiger divers types de textes, des e-mails aux dissertations.

Risques de diminution de la base d’utilisateurs

La décision de ne pas déployer le système actuel est motivée par plusieurs facteurs, selon OpenAI. D’une part, l’entreprise craint que la mise en œuvre de cette technologie entraîne des accusations erronées de triche parmi les utilisateurs, comme le révèle une étude interne de 2023, selon laquelle 69 % des utilisateurs de ChatGPT exprimaient cette inquiétude. De plus, 30 % des répondants auraient diminué leur utilisation de l’outil en cas de déploiement de ce système de détection. L’entreprise redoute également que le déploiement de cet outil, nécessitant une modification du fonctionnement de ChatGPT, puisse altérer la qualité du texte produit.

OpenAI dit privilégier une « approche prudente », selon sa porte-parole. L’entreprise explore les implications potentielles de cet outil, notamment son impact sur les non-anglophones utilisant ChatGPT comme assistant. OpenAI met en garde contre la possibilité que le système soit contourné par des méthodes telles que la paraphrase ou la traduction multiple.

Suite aux révélations du Wall Street Journal, OpenAI a mis à jour un article de blog, précisant que son outil est « très précis et efficace », mais moins performant face à des textes complètement paraphrasés.

L’entreprise reconnait que son système de détection pourrait être « facile à contourner pour des acteurs malveillants ».