OpenAI bloqueia bot político movido por ChatGPT, citando uso indevido nas próximas eleições

A OpenAI tomou medidas banindo o desenvolvedor de um bot, Dean. Bot, que imitava o candidato democrata à presidência, o deputado Dean Phillips. O bot foi criado pelos empresários do Vale do Silício Matt Krisiloff e Jed Somers, que apoiaram Phillips por meio de um super PAC chamado We Deserve Better. O bot utilizou OpenAI's Software de conversação ChatGPT.

A OpenAI suspendeu a conta da startup de IA Delphi, que havia sido contratada pelo super PAC para construir o bot, em resposta ao suposto uso indevido de suas ferramentas de IA em uma campanha política. A OpenAI afirmou que a suspensão se deveu à violação de suas políticas de uso de API, à proibição do uso de sua tecnologia em campanhas políticas ou à personificação de indivíduos sem consentimento.

O bot, desenvolvido pela ChatGPT, poderia interagir com os eleitores em tempo real por meio de um site. Apesar de incluir um aviso afirmando que se tratava de uma ferramenta de IA e não do verdadeiro Dean Phillips, os pesquisadores levantaram preocupações sobre os danos potenciais que tais tecnologias poderiam causar nas eleições. Havia preocupações de que, mesmo com isenções de responsabilidade, os eleitores pudessem ser induzidos a aceitar uma ferramenta perigosa.

Em resposta às perguntas do The Washington Post sobre as proibições do OpenAI, os desenvolvedores afirmaram que pediram ao Delphi para remover o ChatGPT do bot e, em vez disso, usar tecnologias de código aberto. No entanto, o bot permaneceu disponível publicamente sem o ChatGPT até que a Delphi o retirou do ar em resposta à suspensão da conta.

Matt Krisiloff, ex-chefe de gabinete do CEO da OpenAI, Sam Altman, não fez mais comentários, e a Delphi não respondeu imediatamente a um pedido de comentário. A suspensão e as ações tomadas pela OpenAI destacam os desafios contínuos e as considerações éticas que envolvem o uso de ferramentas de IA em campanhas políticas.

Mais SUA PARTICIPAÇÃO FAZ A DIFERENÇA.