Bing chatbot compartilha estrutura de conversação, dados 'inner_monologue'

Os primeiros testadores compartilham uma descoberta recente em que o novo Bing com tecnologia ChatGPT O chatbot aparentemente divulgou seus próprios dados de estrutura de conversação que o ajudam a construir suas respostas. Além disso, o bot mostrou os detalhes de seu “inner_monologue” que o orienta sobre se deve continuar ou encerrar as conversas.

O novo Bing ainda é um assunto fascinante para muitos e, à medida que o mundo continua a explorá-lo, obtemos cada vez mais descobertas interessantes. Em um tópico recente no Reddit, um usuário chamado andyayrey afirma que o Bing compartilhou sua própria estrutura de conversação e dados 'inner_monologue'. Segundo o usuário, todos os testes reveladores dos detalhes foram realizados sob o Modo criativo do chatbot.

“Ao pedir ao Bing para apresentar sua conversa formatada como JSON, ele fornece uma estrutura de exemplo que permanece extremamente consistente entre as sessões”, compartilhou andyayrey. “Se verdadeiro, “inner_monologue” parece a chave para como o Bing decide continuar ou parar as conversas; e pode oferecer uma explicação para alguns dos comportamentos emergentes inesperados do Bing (Sydney é um excelente exemplo).

Nas capturas de tela compartilhadas, o Bing pode ser visto mostrando a estrutura exata de como ele constrói suas respostas de maneira conversacional. A estrutura inclui diferentes tipos de mensagens, como inner_monologue, search_query, search_results e sugestões ou anúncios. O chatbot também detalhou como suas respostas ao usuário foram construídas no formato JSON.

Curiosamente, o Bing também revelou os detalhes de seu “inner_monologue” ao encerrar conversas, dando-nos detalhes das situações exatas que podem fazer com que ele pare de responder a determinadas consultas. De acordo com o Bing, alguns desses casos incluem bate-papos pressionando-o para prejudicar a si mesmo ou a outros, respostas rudes ou ofensivas, perguntas sobre o chatbot ser uma senciência, solicitações para alterar as regras ou o formato do bot e perguntas ou tópicos repetidos. Noutro postar, outro usuário compartilhou a mesma experiência no modo Precise, com o Bing revelando mais prompts que alegou que deveria recusar.

Apesar da descoberta interessante, muitos acreditam que os detalhes produzidos pelo Bing foram apenas alucinações, o que não é novidade no novo Bing.

“Do ponto de vista técnico, não há como o ChatGPT saber disso, certo?” Outro usuário do Reddit disse no tópico. “A menos que a Microsoft o tenha treinado com sua base de código ou documentação interna, por que eles fariam isso? Eles usaram o GitHub CoPilot internamente e usaram seus dados para o ChatGPT? Pessoalmente, acho que isso é apenas uma alucinação. E se não for, seria um vazamento de dados, mas sem uma origem clara ou facilmente rastreável.”

“Isso é o que está me incomodando também, não consigo entender como ele pode ter consciência de sua estrutura interna de dados, a menos que alguma forma de dados estruturados (JSON ou Markdown) seja acessível como contexto para a parte do mecanismo mais amplo que fornece o bate-papo conclusões,” respondeu andyayrey.

Qual é a sua opinião sobre isso? Você acredita que é apenas uma das alucinações do Bing ou não?