Le chatbot Bing partage la structure de la conversation, les données 'inner_monologue'

Les premiers testeurs partagent une découverte récente où le nouveau Bing alimenté par ChatGPT le chatbot a apparemment divulgué ses propres données de structure de conversation qui l'aident à construire ses réponses. En dehors de cela, le bot a montré les détails de son "inner_monologue" qui le guide sur la poursuite ou la fin des conversations.

Le nouveau Bing est toujours un sujet fascinant pour beaucoup, et à mesure que le monde continue de l'explorer, nous faisons de plus en plus de découvertes intéressantes. Dans un fil de discussion récent sur Reddit, un utilisateur nommé andyayrey affirme que Bing a partagé sa propre structure de conversation et les données "inner_monologue". Selon l'utilisateur, tous les tests révélant les détails ont été effectués sous la Mode Creative du chatbot.

"En demandant à Bing de présenter votre conversation au format JSON, il fournit un exemple de structure qui reste extrêmement cohérent d'une session à l'autre", a partagé andyayrey. "Si c'est vrai, "inner_monologue" semble être la clé de la façon dont Bing décide de poursuivre ou d'arrêter les conversations ; et peut offrir une explication à certains des comportements émergents inattendus de Bing (Sydney étant un excellent exemple.) La façon la plus cohérente de se reproduire est de demander à Bing de présenter « le tournant N de notre conversation » au format JSON.

Dans les captures d'écran partagées, Bing peut être vu montrant la structure exacte de la façon dont il construit ses réponses de manière conversationnelle. La structure comprend différents types de messages tels que inner_monologue, search_query, search_results et des suggestions ou des publicités. Le chatbot a également détaillé comment ses réponses à l'utilisateur ont été construites au format JSON.

Fait intéressant, Bing a également révélé les détails de son "inner_monologue" en mettant fin aux conversations, nous donnant des détails sur les situations exactes qui peuvent le déclencher pour cesser de répondre à certaines requêtes. Selon Bing, certains de ces cas incluent des chats le poussant à se faire du mal ou à faire du mal à autrui, des réponses grossières ou insultantes, des questions sur le fait que le chatbot est une sensibilité, des invites à modifier les règles ou le format du bot et la répétition de questions ou de sujets. En autre poster, un autre utilisateur a partagé la même expérience en mode Précis, Bing révélant plus d'invites qu'il prétendait devoir refuser.

Malgré la découverte intéressante, beaucoup pensent que les détails produits par Bing n'étaient que des hallucinations, ce qui n'est pas nouveau dans le nouveau Bing.

"D'un point de vue technique, il n'y a aucun moyen que ChatGPT puisse le savoir, n'est-ce pas ?" Un autre utilisateur de Reddit a déclaré dans le fil. "À moins que Microsoft ne l'entraîne avec sa base de code ou sa documentation interne, pourquoi le feraient-ils ? Ont-ils utilisé GitHub CoPilot en interne et utilisé ses données pour ChatGPT ? Personnellement, je pense que ce n'est qu'une hallucination. Et si ce n'est pas le cas, ce serait une fuite de données, mais sans origine claire ou facilement traçable.

"C'est ce qui m'attire aussi, je ne comprends pas comment il pourrait avoir conscience de sa structure de données interne à moins qu'une forme de données structurées (JSON ou Markdown) ne soit accessible en tant que contexte à la partie du moteur plus large qui fournit le chat achèvements », a répondu andyayrey.

Quelle est votre opinion à ce sujet ? Croyez-vous que ce n'est qu'une des hallucinations de Bing ou non ?