Meta's BlenderBot 3: Vylepšený chatbot navržený tak, aby se „učil z konverzací“

Pravděpodobně jste jedním z těch lidí, kteří se zamilovali do humoru robota AI jménem TARS ve filmu Interstellar. Slyšeli jsme to vtipkovat a pronášet poznámky jako cool chlap v baru. Naše současná technologie bohužel ještě zdaleka nevyrábí takové roboty, kteří by s námi mohli nenuceně a přirozeně konverzovat jako živý člověk. nicméně meta podniká nový krok, aby to bylo možné tím, že představuje svůj nejnovější výzkumný projekt AI, the Chatbot BlenderBot 3.

BlenderBot 3 je jen jedním z projektů společnosti Meta v její sérii BlenderBot, která umožňuje AI „provádět smysluplné konverzace“ pomocí internetových dat a dlouhodobé paměti. Ve srovnání s ostatními BlenderBot 3 údajně používá mnohem větší jazykový model, který je 58krát větší než BlenderBot 2. Zejména je trénován pomocí obrovského množství veřejně dostupných jazykových dat s nesčetnými konverzacemi o široké škále témat. , od receptů po zajímavá místa a turistické dovolené. 

Na druhou stranu, hlavní předností BlenderBotu 3 je jeho schopnost učit se z konverzace, kterou vede s různými jednotlivci na webu. Meta říká, že tuto techniku ​​použije ke shromažďování zpětné vazby od lidí o modelu, kterou využije ke zlepšení svých reakcí.

„Cílem našeho výzkumu je shromažďovat a zveřejňovat data zpětné vazby, která můžeme my a širší výzkumná komunita AI v průběhu času využít. Tímto způsobem můžeme najít nové způsoby, jak mohou být systémy umělé inteligence bezpečnější a poutavější pro lidi, kteří je používají,“ řekl Meta blogu. „I když BlenderBot 3 výrazně posouvá dopředu veřejně dostupné chatboty, rozhodně to není na lidské úrovni. Občas je to nesprávné, nekonzistentní a mimo téma. S tím, jak bude s naší ukázkou interagovat více lidí, vylepšíme naše modely pomocí jejich zpětné vazby a zveřejníme data ve prospěch širší komunity AI.“

I přes nová vylepšení Meta přiznala, že BlenderBot 3 má k dokonalosti daleko. Zatímco je dvakrát dobře informovaný a zlepšil se o 31% v konverzačních úkolech ve srovnání s jeho předchůdci, Meta poznamenal, že stále může fungovat nepříznivým způsobem. Meta ve skutečnosti tvrdila, že 0.16 % jejích odpovědí bylo během testu označeno jako nevhodné. Mezitím, aby ochránila chatbota před těmi, kteří jej chtějí používat negativně, Meta uvedla, že také dala BlenderBotu 3 náležitou schopnost vyhnout se učení urážlivým poznámkám, zejména nevhodným výrokům od trollů.

„Chápeme, že ne každý, kdo používá chatboty, má dobré úmysly, a proto jsme také vyvinuli nové algoritmy učení, abychom rozlišili mezi užitečnými odpověďmi a škodlivými příklady,“ sdělil Meta. "Postupem času budeme tuto techniku ​​používat k tomu, aby byly naše modely zodpovědnější a bezpečnější pro všechny uživatele."

BlenderBot 3 je již k dispozici pro vyzkoušení americkými uživateli, ale jak se očekávalo, a znovu, není bezchybný. I když dokáže doručit věty hladce, chatbot někdy vynechá tok konverzace a může přeskakovat z jednoho tématu na druhé. Například v konverzaci sdílené uživatelem Kabelové, BlenderBot 3 představil nápady, které nejsou pro diskusi příliš relevantní.

v jiném povídání s BlenderBotem 3 s datovým vědcem BuzzFeed Maxem Woolfem, bot obdivoval Marka Zuckerberga a řekl, že CEO Meta je „dobrý obchodník“. Nicméně v přeformulované otázce, kterou položil Yahoo!, bot nějak popřel odpověď, kterou poskytl Woolfové, když řekl: „Ach chlape, to je skvělé. Nemám ho vlastně vůbec rád. Je příliš strašidelný a manipulativní."

S tím vším může být pro BlenderBot 3 ještě dlouhá cesta k tomu, aby se stal inteligentním chatbotem, na kterého se může svět spolehnout. Nicméně s náležitými interakcemi a zpětnou vazbou by Meta měla získat ty správné materiály k dalšímu vylepšení systému a (doufejme) jí pomoci rozhodnout se, zda je Zuckerberg skutečně dobrý obchodník nebo strašidelný, manipulativní frajer.

Image Credits to Wired, Max Woolf a Yahoo!