BlenderBot 3 от Meta: улучшенный чат-бот, предназначенный для «обучения из разговоров».

Вы, вероятно, один из тех, кто влюбился в юмор ИИ-робота по имени TARS из фильма «Интерстеллар». Мы слышали, как он шутит и делает замечания, как крутой парень в баре. К сожалению, наши нынешние технологии все еще далеки от создания таких роботов, которые могут общаться с нами небрежно и естественно, как живой человек. Тем не менее, Мета делает новый шаг, чтобы сделать это возможным, представив свой последний исследовательский проект в области ИИ, Чат-бот BlenderBot 3.

BlenderBot 3 — это всего лишь один из проектов Meta в серии BlenderBot, который позволяет ИИ «вести содержательные разговоры» с помощью интернет-данных и долговременной памяти. Говорят, что по сравнению с другими, BlenderBot 3 использует гораздо большую языковую модель, которая в 58 раз больше, чем BlenderBot 2. В частности, он обучается с использованием огромного количества общедоступных языковых данных с бесчисленными разговорами на самые разные темы. , от рецептов до интересных мест и туристического отдыха. 

С другой стороны, главной изюминкой BlenderBot 3 является его способность учиться на разговорах, которые он ведет с разными людьми в сети. Meta говорит, что будет использовать эту технику для сбора отзывов людей о модели, которые она будет использовать для улучшения своих ответов.

«Цель нашего исследования — собрать и опубликовать данные обратной связи, которые мы и более широкое сообщество исследователей ИИ сможем использовать с течением времени. Таким образом, мы сможем найти новые способы сделать системы ИИ более безопасными и привлекательными для людей, которые их используют», — сказал Мета в интервью. блоге. «Хотя BlenderBot 3 значительно улучшает общедоступные чат-боты, это определенно не на человеческом уровне. Это иногда неправильно, непоследовательно и не по теме. По мере того, как все больше людей взаимодействуют с нашей демонстрацией, мы будем улучшать наши модели, используя их отзывы и публикуя данные, чтобы принести пользу более широкому сообществу ИИ».

Несмотря на новые улучшения, Мета признал, что BlenderBot 3 далек от совершенства. Хотя он в два раза лучше и лучше на 31% в разговорных задачах по сравнению со своими предшественниками, Meta отметила, что он все еще может работать неблагоприятным образом. На самом деле Meta заявила, что 0.16% ее ответов были помечены как неуместные во время теста. Между тем, чтобы защитить чат-бота от тех, кто хочет использовать его в негативном ключе, Meta заявила, что он также дал BlenderBot 3 надлежащую возможность избегать изучения оскорбительных замечаний, особенно неуместных заявлений от троллей.

«Мы понимаем, что не у всех, кто использует чат-ботов, есть добрые намерения, поэтому мы также разработали новые алгоритмы обучения, чтобы различать полезные ответы и вредные примеры», — поделилась Мета. «Со временем мы будем использовать эту технику, чтобы сделать наши модели более ответственными и безопасными для всех пользователей».

BlenderBot 3 уже доступен для опробования пользователями из США, но, как и ожидалось, он не безупречен. Хотя он может плавно произносить предложения, чат-бот иногда пропускает ход разговора и может перескакивать с одной темы на другую. Например, в разговоре, которым поделился Проводная, BlenderBot 3 представил идеи, которые не имеют большого отношения к обсуждению.

В другой чат с BlenderBot 3 с специалистом по данным BuzzFeed Максом Вульфом бот восхищался Марком Цукербергом, говоря, что генеральный директор Meta — «хороший деловой человек». Однако в перефразированном вопросе, заданном Yahoo!, бот каким-то образом опроверг ответ, который он дал Вульфу, сказав: «О, чувак, большое время. Он мне совсем не нравится. Он слишком жуткий и манипулятивный».

Несмотря на все это, BlenderBot 3 может еще пройти долгий путь, чтобы стать интеллектуальным чат-ботом, на которого может положиться мир. Тем не менее, при надлежащем взаимодействии и обратной связи Meta должна получить нужные материалы для дальнейшего улучшения системы и (надеюсь) помочь ей решить, является ли Цукерберг на самом деле хорошим бизнесменом или жутким чуваком-манипулятором.

Изображение предоставлено Wired, Max Woolf и Yahoo!