OpenAI bloque le robot politique alimenté par ChatGPT, invoquant une utilisation abusive lors des prochaines élections

OpenAI a pris des mesures en bannissant le développeur d'un bot, Dean. Bot, qui imitait le candidat démocrate à la présidentielle, le représentant Dean Phillips. Le robot a été créé par les entrepreneurs de la Silicon Valley, Matt Krisiloff et Jed Somers, qui ont soutenu Phillips par le biais d'un super PAC appelé We Deserve Better. Le bot a utilisé OpenAI Logiciel conversationnel ChatGPT.

OpenAI a suspendu le compte de la startup d'IA Delphi, qui avait été engagée par le super PAC pour construire le bot, en réponse à une utilisation abusive présumée de ses outils d'IA dans une campagne politique. OpenAI a déclaré que la suspension était due à la violation de ses politiques d'utilisation de l'API, à l'interdiction de l'utilisation de sa technologie dans des campagnes politiques ou à l'usurpation d'identité sans consentement.

Le robot, alimenté par ChatGPT, pourrait interagir avec les électeurs en temps réel via un site Web. Malgré l'inclusion d'un avertissement indiquant qu'il s'agissait d'un outil d'IA et non du véritable Dean Phillips, les chercheurs ont exprimé leurs inquiétudes quant aux dommages potentiels que ces technologies pourraient causer aux élections. Certains craignaient que, même avec des clauses de non-responsabilité, les électeurs ne soient incités à accepter un outil dangereux.

En réponse aux demandes du Washington Post concernant les interdictions d'OpenAI, les développeurs ont déclaré qu'ils avaient demandé à Delphi de supprimer ChatGPT du bot et d'utiliser à la place des technologies open source. Cependant, le bot est resté accessible au public sans ChatGPT jusqu'à ce que Delphi le supprime en réponse à la suspension du compte.

Matt Krisiloff, ancien chef de cabinet du PDG d'OpenAI, Sam Altman, n'a fait aucun autre commentaire et Delphi n'a pas immédiatement répondu à une demande de commentaire. La suspension et les mesures prises par OpenAI mettent en évidence les défis actuels et les considérations éthiques entourant l’utilisation des outils d’IA dans les campagnes politiques.

Plus ici.