L’entreprise américaine OpenAI a développé un système capable de détecter les textes générés par ChatGPT, son modèle de langage phare, avec une efficacité de 99,9%.
Cependant, l’entreprise refuse de déployer cette technologie, estimant qu’elle représente des risques pour son intelligence artificielle. Selon une étude commandée par OpenAI, ChatGPT pourrait perdre des utilisateurs si cet outil de détection était mis sur le marché.
ChatGPT, lancé en novembre 2022, est un modèle de langage capable de générer des textes sur demande, suscitant des préoccupations quant à la possibilité de distinguer les textes rédigés par des humains de ceux générés par l’IA. OpenAI avait précédemment développé un outil de détection des textes générés par l’IA, mais l’avait retiré quelques mois plus tard en raison de son inefficacité.
Le système de détection développé par OpenAI consiste à modifier légèrement la façon dont ChatGPT choisit les mots pour composer des phrases, créant ainsi une sorte de motif détectable par un outil spécifique. Cet outil fournit un niveau de probabilité indiquant si un texte a été rédigé par ChatGPT.
Malgré l’efficacité de ce système, OpenAI refuse de le déployer, craignant que cela ne nuise à l’utilisation de ChatGPT. L’entreprise a commandé une étude qui suggère que les utilisateurs pourraient être moins enclins à utiliser ChatGPT s’ils savaient que leurs textes pouvaient être détectés. OpenAI estime donc que le déploiement de cet outil de détection pourrait représenter un risque pour son modèle de langage phare.
Cette décision soulève des questions sur la transparence et la responsabilité des entreprises de technologie dans l’utilisation de leurs outils d’IA. Alors que les modèles de langage génératifs comme ChatGPT continuent de se développer, il est important que les entreprises prennent en compte les implications éthiques et sociales de leurs technologies.
