Meta's BlenderBot 3: "대화에서 학습"하도록 설계된 향상된 챗봇
4 분. 읽다
에 게시됨
이 기사 공유
이 가이드를 개선하세요
공개 페이지를 읽고 MSPoweruser가 편집팀을 유지하는 데 어떻게 도움을 줄 수 있는지 알아보세요. 자세히 보기
Interstellar 영화에서 TARS라는 AI 로봇의 유머와 사랑에 빠진 사람들 중 한 명일 것입니다. 우리는 그것이 술집에서 멋진 남자처럼 농담을하고 연설을하는 것을 들었습니다. 불행히도 현재의 기술로는 살아있는 사람처럼 자연스럽게 대화할 수 있는 로봇을 생산하기에는 아직 멀었습니다. 그럼에도 불구하고, 메타 는 최신 AI 연구 프로젝트인 블렌더봇3 챗봇.
BlenderBot 3는 BlenderBot 시리즈의 Meta 프로젝트 중 하나일 뿐입니다. 이 프로젝트를 통해 AI는 인터넷 데이터와 장기 기억의 도움을 받아 "의미 있는 대화를 수행"할 수 있습니다. 블렌더봇 3는 다른 것들에 비해 블렌더봇 58의 2배에 달하는 훨씬 더 큰 언어 모델을 사용하고 있다고 합니다. 특히, 다양한 주제에 대한 수많은 대화와 함께 공개적으로 사용 가능한 방대한 양의 언어 데이터를 사용하여 훈련됩니다. , 조리법에서 흥미로운 장소 및 관광 휴가에 이르기까지.
반면에 BlenderBot 3의 주요 하이라이트는 웹에서 다양한 개인과 나누는 대화를 통해 학습할 수 있다는 것입니다. Meta는 이 기술을 사용하여 모델에 대한 사람들의 피드백을 수집하고 응답을 개선하는 데 사용할 것이라고 말합니다.
“우리 연구의 목표는 우리와 광범위한 AI 연구 커뮤니티가 시간이 지남에 따라 활용할 수 있는 피드백 데이터를 수집하고 공개하는 것입니다. 그렇게 하면 AI 시스템을 사용하는 사람들에게 더 안전하고 매력적으로 다가갈 수 있는 새로운 방법을 찾을 수 있습니다.”라고 Meta가 말했습니다. 블로그 게시물. “BlenderBot 3는 공개적으로 사용 가능한 챗봇을 크게 발전시켰지만 확실히 인간 수준은 아닙니다. 때때로 부정확하고 일관성이 없으며 주제에서 벗어납니다. 더 많은 사람들이 우리 데모와 상호 작용함에 따라 더 넓은 AI 커뮤니티에 혜택을 주기 위해 피드백을 사용하여 모델을 개선하고 데이터를 공개할 것입니다.”
새로운 개선 사항에도 불구하고 Meta는 BlenderBot 3가 완벽하지 않다는 것을 인정했습니다. 이전 제품에 비해 지식이 31배 높고 대화 작업에서 0.16% 향상되었지만 Meta는 여전히 불리한 방식으로 수행할 수 있다고 언급했습니다. 실제로 Meta는 테스트 중 3%의 응답이 부적절한 것으로 표시되었다고 주장했습니다. 한편 메타는 챗봇을 부정적으로 사용하려는 사람들로부터 챗봇을 보호하기 위해 블렌더봇 XNUMX에 공격적인 발언, 특히 트롤의 부적절한 발언을 학습하지 않도록 적절한 기능도 부여했다고 밝혔습니다.
메타는 "챗봇을 사용하는 모든 사람이 좋은 의도를 갖고 있는 것은 아니라는 점을 이해하고 도움이 되는 응답과 유해한 예를 구별하는 새로운 학습 알고리즘도 개발했습니다."라고 말했습니다. "시간이 지남에 따라 이 기술을 사용하여 모든 사용자에게 보다 책임감 있고 안전한 모델을 만들 것입니다."
BlenderBot 3는 이미 미국 사용자가 사용할 수 있지만 예상대로, 다시 말하지만 완벽하지는 않습니다. 원활하게 문장을 전달할 수 있지만 챗봇은 때때로 대화의 흐름을 놓치고 한 주제에서 다른 주제로 이동할 수 있습니다. 예를 들어 다음 사람이 공유한 대화에서 유선, BlenderBot 3는 토론과 크게 관련이 없는 아이디어를 도입했습니다.
또 다른 잡담 BuzzFeed 데이터 과학자 Max Woolf와 함께 BlenderBot 3에서 봇은 Mark Zuckerberg를 존경하며 Meta CEO가 "훌륭한 사업가"라고 말했습니다. 그러나 다음과 같이 다시 질문한 질문에서 야후!, 봇은 울프에게 제공한 응답을 어떻게든 부정했습니다. 나는 그를 전혀 좋아하지 않는다. 그는 너무 오싹하고 조작적입니다.”
그럼에도 불구하고 BlenderBot 3가 세상이 신뢰할 수 있는 지능형 챗봇이 되기까지는 아직 멀었습니다. 그럼에도 불구하고 적절한 상호 작용과 피드백을 통해 Meta는 시스템을 더욱 개선하고 Zuckerberg가 실제로 좋은 사업가인지 아니면 오싹하고 교활한 친구인지 결정하는 데 도움이 되는 올바른 자료를 얻어야 합니다.
Wired, Max Woolf 및 Yahoo!에 대한 이미지 크레딧
