OpenAI développe un outil de détection de textes ChatGPT, mais le suspend

• Le corporate
• 8 août 2024
• Technologie
• outil-suspendu
• 0Commentaires

La question de savoir si un texte est généré par l’IA ou par un humain suscite un vif débat depuis quelques temps. Bien que plusieurs outils de détection aient été développés, leurs résultats se sont révélés décevants. OpenAI avait initialement créé un tel outil en 2023, mais l’a retiré en raison de son inefficacité.

Mais depuis environ un an, Open AI dit disposer d’un système performant pour détecter les textes générés par son modèle ChatGPT, mais a choisi de ne pas le déployer. Le Wall Street Journal révèle dans son édition du 4 août, que cette technologie est capable d’identifier les productions de ChatGPT avec une précision de 99,9 %.

Pour rappel, l’outil d’intelligence artificielle générative ChatGPT, lancé en novembre 2022 et largement accessible au public, est capable de rédiger divers types de textes, des e-mails aux dissertations.

Risques de diminution de la base d’utilisateurs

La décision de ne pas déployer le système actuel est motivée par plusieurs facteurs, selon OpenAI. D’une part, l’entreprise craint que la mise en œuvre de cette technologie entraîne des accusations erronées de triche parmi les utilisateurs, comme le révèle une étude interne de 2023, selon laquelle 69 % des utilisateurs de ChatGPT exprimaient cette inquiétude. De plus, 30 % des répondants auraient diminué leur utilisation de l’outil en cas de déploiement de ce système de détection. L’entreprise redoute également que le déploiement de cet outil, nécessitant une modification du fonctionnement de ChatGPT, puisse altérer la qualité du texte produit.

OpenAI dit privilégier une « approche prudente », selon sa porte-parole. L’entreprise explore les implications potentielles de cet outil, notamment son impact sur les non-anglophones utilisant ChatGPT comme assistant. OpenAI met en garde contre la possibilité que le système soit contourné par des méthodes telles que la paraphrase ou la traduction multiple.

Suite aux révélations du Wall Street Journal, OpenAI a mis à jour un article de blog, précisant que son outil est « très précis et efficace », mais moins performant face à des textes complètement paraphrasés.

L’entreprise reconnait que son système de détection pourrait être « facile à contourner pour des acteurs malveillants ».