Quelles mesures OpenAI prend-elle pour limiter l’utilisation des outils d’IA pour les campagnes politiques ?

La décision d’OpenAI d’introduire des outils pour lutter contre la désinformation avant les élections dans divers pays est une réponse à l’utilisation abusive potentielle de sa technologie, telle que ChatGPT et DALL-E 3, à des fins de campagnes politiques. L’entreprise s’inquiète du risque que la désinformation provoquée par l’IA ne porte atteinte au processus démocratique, en particulier en période électorale.

Un aspect clé de OpenAILa stratégie de Google consiste à restreindre l’utilisation de sa technologie à des fins de campagne politique et de lobbying jusqu’à ce que l’on en sache davantage sur l’impact potentiel de la persuasion personnalisée.

L'entreprise reconnaît la nécessité de comprendre l'efficacité de ses outils et travaille activement sur des solutions pour garantir une utilisation responsable. Cela inclut le développement d'outils pour fournir une attribution fiable au texte généré par ChatGPT et permettre aux utilisateurs de détecter si une image a été créée à l'aide de DALL-E 3.

OpenAI prévoit de mettre en œuvre les informations d’identification numériques de la Coalition for Content Provenance and Authenticity pour améliorer les méthodes d’identification et de traçage du contenu numérique. Ce faisant, OpenAI vise à répondre aux préoccupations concernant l’authenticité du contenu généré à l’aide de modèles d’IA.

L'entreprise prend également des mesures pour garantir que ses modèles, comme le DALL-E 3, disposent de « garde-corps » pour empêcher la génération d'images de personnes réelles, y compris de candidats politiques.

Le développement et le déploiement d’outils pour lutter contre la désinformation représentent des efforts continus visant à atténuer l’impact négatif des technologies avancées d’IA sur la société et les processus démocratiques.

Plus ici.