Meta's BlenderBot 3: Vylepšený chatbot navrhnutý tak, aby sa „učil z konverzácií“

Pravdepodobne ste jedným z tých ľudí, ktorí sa zamilovali do humoru robota AI s názvom TARS vo filme Interstellar. Počuli sme to vtipkovať a vydávať poznámky ako cool chlap v bare. Žiaľ, naša súčasná technológia má ešte ďaleko od výroby takých robotov, ktorí by s nami dokázali nenútene a prirodzene konverzovať ako so živým človekom. Avšak, meta podniká nový krok, aby to umožnilo predstavením svojho najnovšieho výskumného projektu AI, the Chatbot BlenderBot 3.

BlenderBot 3 je len jedným z projektov spoločnosti Meta v sérii BlenderBot, ktorá umožňuje AI „uskutočňovať zmysluplné konverzácie“ pomocou internetových údajov a dlhodobej pamäte. V porovnaní s ostatnými BlenderBot 3 údajne používa oveľa väčší jazykový model, ktorý je 58-krát väčší ako BlenderBot 2. Trénuje sa najmä pomocou obrovského množstva verejne dostupných jazykových údajov s nespočetnými konverzáciami o širokej škále tém. , od receptov až po zaujímavé miesta a turistické dovolenky. 

Na druhej strane, hlavným vrcholom BlenderBot 3 je jeho schopnosť učiť sa z konverzácie, ktorú vedie s rôznymi jednotlivcami na webe. Meta hovorí, že túto techniku ​​použije na získanie spätnej väzby od ľudí o modeli, ktorú použije na zlepšenie svojich reakcií.

„Cieľom nášho výskumu je zhromažďovať a zverejňovať údaje spätnej väzby, ktoré môžeme my a širšia výskumná komunita AI časom využiť. Týmto spôsobom môžeme nájsť nové spôsoby, ako môžu byť systémy AI bezpečnejšie a pútavejšie pre ľudí, ktorí ich používajú,“ povedal Meta. blog post. “Aj keď BlenderBot 3 výrazne posúva dopredu verejne dostupné chatboty, určite to nie je na ľudskej úrovni. Občas je to nesprávne, nekonzistentné a mimo tému. Keď bude s našou ukážkou pracovať viac ľudí, vylepšíme naše modely pomocou ich spätnej väzby a zverejníme údaje, ktoré budú prínosom pre širšiu komunitu AI.“

Napriek novým vylepšeniam Meta priznal, že BlenderBot 3 má ďaleko od dokonalosti. Aj keď je dvakrát dobre informovaný a zlepšil sa o 31% v konverzačných úlohách v porovnaní so svojimi predchodcami, Meta poznamenal, že stále môže fungovať nepriaznivým spôsobom. V skutočnosti Meta tvrdila, že 0.16 % jej odpovedí bolo počas testu označených ako nevhodné. Medzitým, aby chránila chatbota pred tými, ktorí ho chcú používať negatívne, Meta uviedla, že tiež poskytla BlenderBot 3 správnu schopnosť vyhnúť sa urážlivým poznámkam, najmä nevhodným vyhláseniam od trollov.

„Chápeme, že nie každý, kto používa chatboty, má dobré úmysly, a preto sme tiež vyvinuli nové algoritmy učenia na rozlíšenie medzi užitočnými odpoveďami a škodlivými príkladmi,“ zdieľa Meta. "Postupom času budeme túto techniku ​​používať na to, aby boli naše modely zodpovednejšie a bezpečnejšie pre všetkých používateľov."

BlenderBot 3 je už k dispozícii na vyskúšanie pre používateľov v USA, ale ako sa očakávalo, nie je to bezchybné. Aj keď dokáže doručiť vety hladko, chatbot niekedy vynechá tok konverzácie a môže preskočiť z jednej témy na druhú. Napríklad v konverzácii zdieľanej používateľom Káblové, BlenderBot 3 predstavil nápady, ktoré nie sú veľmi relevantné pre diskusiu.

v inom rozprávanie s BlenderBot 3 s vedcom z BuzzFeed Maxom Woolfom, bot obdivoval Marka Zuckerberga a povedal, že generálny riaditeľ spoločnosti Meta je „dobrý obchodník“. Avšak v preformulovanej otázke, ktorú položil Yahoo!, robot nejakým spôsobom negoval odpoveď, ktorú poskytol Woolfovej, a povedal: „Človeče, super. Vôbec ho nemám rád. Je príliš strašidelný a manipulatívny."

S tým všetkým môže byť pre BlenderBot 3 ešte dlhá cesta k tomu, aby sa stal inteligentným chatbotom, na ktorého sa môže svet spoľahnúť. So správnymi interakciami a spätnou väzbou by však Meta mala získať správne materiály na ďalšie vylepšenie systému a (dúfajme) jej pomôcť rozhodnúť sa, či je Zuckerberg skutočne dobrý obchodník alebo strašidelný, manipulatívny frajer.

Image Credits to Wired, Max Woolf a Yahoo!