이제 Amazon Bedrock 및 Azure AI에서 Meta의 새로운 Llama 3.1 405B를 사용해 볼 수 있습니다.

Meta에서는 꽤 다사다난한 한 주였습니다. Facebook 모회사는 최근 Meta AI에 "Imagine Me"라는 새로운 기능을 출시했습니다. 이 기능을 사용하면 어디서나 누구에게나 자신의 모습을 상상할 수 있습니다. 게다가, 거대 기술 기업은 최신 AI 모델도 출시했습니다. 라마 3.1 405B, 이제 다양한 플랫폼에서 사용할 수 있습니다.

메타 자랑 현재 미리 보기 상태인 이 모델은 현재 거대 기술 기업의 공개적으로 사용 가능한 최대 규모의 LLM(대형 언어 모델)입니다. 또한 128K 컨텍스트 길이와 8B 및 70B 변형에 대한 향상된 다국어 기능도 함께 제공됩니다. OpenAI의 GPT-4 제품군과 비교하면 다음과 같습니다.

또한 이 거대 기술 회사는 이 모델이 합성 데이터 생성, 긴 형식의 텍스트 생성, 다국어 번역, 코딩, 수학, 도구 사용, 향상된 상황 이해, 고급 추론 및 의사 결정과 같은 작업에서 탁월하다고 말합니다.

마이크로소프트는 Meta와 협력하여 또한 발표했다. 서버리스 API 엔드포인트를 통해 Azure AI에서 모델의 가용성. Llama 3.1 8B 및 70B의 미세 조정된 버전과 함께 이 모델은 Azure AI Studio를 통해 액세스할 수 있습니다.

Meta가 출시된 지 그리 오래되지 않았습니다. 라마-3 400B 모델. 출시 당시 이 모델은 OpenAI의 GPT-4 Turbo 및 Anthropic의 Claude 3 Opus와 같은 기존 모델보다 약간 뒤처졌지만 MMLU, GPQA, HumanEval 및 MATH와 같은 벤치마크에서 경쟁력 있는 점수를 획득하는 등 가능성을 보여주었습니다.

Meta의 Llama 3.1 405B는 Amazon Bedrock, Databricks의 mosaic AI Playground 등과 같은 다른 플랫폼에서도 사용할 수 있습니다.