Dans la perspective des élections majeures de 2024, notamment aux États-Unis, en Inde et en Grande-Bretagne, OpenAI a annoncé le développement de nouveaux outils destinés à prévenir la désinformation électorale via ses technologies de pointe, ChatGPT et DALL-E.

Face à l’essor de l’intelligence artificielle générative dans la sphère politique, OpenAI souligne l’importance de contrer les usages malveillants de ces technologies. L’organisation se focalise sur la prévention des abus tels que la création de « deepfakes » trompeurs, les opérations d’influence à grande échelle, et l’utilisation de chatbots imitant des candidats.

Le projet en cours implique le développement de nouvelles versions de GPT qui permettront aux utilisateurs de signaler tout usage inapproprié visant à produire de la désinformation. OpenAI précise que jusqu’à nouvel ordre, il est interdit de créer des applications à des fins de campagne politique ou de lobbying. L’accent est mis sur la sécurité des plateformes, l’amélioration de l’exactitude des informations relatives au vote, l’application de politiques mesurées, et l’augmentation de la transparence.

En outre, OpenAI met en avant les « garde-fous » déjà en place pour ses outils. Par exemple, DALL·E refuse les requêtes de génération d’images de personnes réelles, y compris des candidats. Pour 2024, l’objectif est d’offrir une meilleure transparence sur la provenance des images, incluant la capacité de détecter les outils utilisés pour leur production. Un nouvel outil de détection des images générées par DALL·E est également annoncé.

Dans une démarche de transparence accrue, OpenAI rejoint la Coalition for Content Provenance and Authenticity (C2PA), fondée en 2021, qui compte des acteurs majeurs comme Microsoft et AWS. Cette coalition s’attache à développer des spécifications techniques pour établir la provenance et l’authenticité du contenu. La C2PA a déjà publié plusieurs versions de sa norme technique et envisage d’intégrer des supports tels que l’IA générative, la vidéo et l’audio en direct dans ses développements futurs.