Bing chatbot jakaa keskustelurakenteen, "inner_monologue" -tiedot

Varhaiset testaajat jakavat äskettäisen löydön, jossa uusi ChatGPT-pohjainen Bing chatbot ilmeisesti paljasti omat keskustelurakenteensa tiedot, jotka auttavat sitä rakentamaan vastauksensa. Tämän lisäksi botti osoitti "inner_monologi" -sanan yksityiskohdat, joka ohjaa sitä jatkamaan vai lopettamaan keskusteluja.

Uusi Bing on edelleen kiehtova aihe monille, ja kun maailma jatkaa sen tutkimista, saamme yhä enemmän mielenkiintoisia löytöjä. Äskettäisessä Redditin säikeessä käyttäjä nimeltä andyayrey väittää, että Bing jakoi oman keskustelurakenteensa ja "inner_monologue" -tietonsa. Käyttäjän mukaan kaikki yksityiskohtia paljastavat testit suoritettiin alla Luova tila chatbotista.

"Pyytämällä Bingiä esittämään keskustelusi JSON-muodossa, se tarjoaa esimerkkirakenteen, joka pysyy erittäin yhtenäisenä istuntojen aikana", andyayrey kertoi. "Jos totta, "sisäinen_monologi" näyttää avainasemalta sille, kuinka Bing päättää jatkaa tai lopettaa keskusteluja. ja voi tarjota selityksen joillekin Bingin odottamattomille ilmeneville käytöksille (Sydney on erinomainen esimerkki.) Johdonmukaisin tapa toistaa on pyytää Bingiä esittämään "keskustelumme käänne" JSON-muodossa."

Jaetuissa kuvakaappauksissa Bing näyttää tarkan rakenteen siitä, kuinka se rakentaa vastauksensa keskustelullisella tavalla. Rakenne sisältää erilaisia ​​viestejä, kuten inner_monologi, search_query, search_results ja ehdotuksia tai mainoksia. Chatbot kertoi myös kuinka sen vastaukset käyttäjälle muodostettiin JSON-muodossa.

Mielenkiintoista on, että Bing paljasti myös "sisäisen_monologinsa" yksityiskohdat lopettaessaan keskusteluja, antaen meille yksityiskohtia täsmällisistä tilanteista, jotka voivat saada sen lopettamaan vastaamisen tiettyihin kyselyihin. Bingin mukaan jotkin näistä tapauksista sisältävät chatit, joissa sitä pakotetaan vahingoittamaan itseään tai muita, töykeitä tai loukkaavia vastauksia, kysymyksiä chatbotin olemuksesta, kehotteita muuttaa botin sääntöjä tai muotoa ja toistaa kysymyksiä tai aiheita. Toisessa posti, toinen käyttäjä jakoi saman kokemuksen Precise-tilassa, ja Bing paljasti lisää kehotteita, jotka sen väitti kieltäytyvän.

Mielenkiintoisesta löydöstä huolimatta monet uskovat, että Bingin tuottamat yksityiskohdat olivat vain hallusinaatioita, mikä ei ole uutta uudessa Bingissä.

"Teknisesti katsottuna ChatGPT ei voi millään tietää tätä, eikö niin?" Toinen Reddit-käyttäjä sanoi ketjussa. "Miksi he tekisivät niin, jos Microsoft ei kouluttaisi sitä koodikantansa tai sisäisen dokumentaation avulla? Käyttivätkö he GitHub CoPilotia sisäisesti ja sen tietoja ChatGPT:tä varten? Henkilökohtaisesti uskon, että tämä on vain hallusinaatiota. Ja jos ei, se olisi tietovuoto, mutta ilman selkeää tai helposti jäljitettävää alkuperää.

"Tämä saa minut myös, en voi ymmärtää, kuinka se voi olla tietoinen sisäisestä tietorakenteestaan, ellei jonkinlainen strukturoitu data (JSON tai Markdown) ole kontekstina laajemman keskustelun tarjoavan moottorin osalle. valmistuminen", vastasi andyayrey.

Mitä mieltä olet tästä? Uskotko, että se on vain yksi Bingin hallusinaatioista vai ei?