Du kan nå prøve Metas nye Llama 3.1 405B på Amazon Bedrock & Azure AI

Det har vært en ganske begivenhetsrik uke på Meta. Facebooks morselskap har nylig lansert en ny funksjon på Meta AI kalt "Imagine Me", som lar deg se for deg hvor som helst og i hvem som helst. Dessuten lanserte teknologigiganten også sin nyeste AI-modell, Lama 3.1 405B, og den er nå tilgjengelig på forskjellige plattformer.

Meta skryte at modellen, som for øyeblikket er i forhåndsvisning, er den største offentlig tilgjengelige store språkmodellen (LLM) fra teknologigiganten. Den kommer også med en kontekstlengde på 128K og forbedret flerspråklig for 8B- og 70B-variantene. Slik er det sammenlignet med OpenAIs GPT-4-familie:

Teknologigiganten sier også at modellen utmerker seg i oppgaver som generering av syntetisk data, generering av tekst i lang form, flerspråklig oversettelse, koding, matematikk, verktøybruk, forbedret kontekstuell forståelse og avansert resonnement og beslutningstaking.

Microsoft, i samarbeid med Meta, kunngjorde også tilgjengeligheten av modellen på Azure AI gjennom et serverløst API-endepunkt. Denne modellen, sammen med finjusterte versjoner av Llama 3.1 8B og 70B, kan nås via Azure AI Studio.

Det var ikke så lenge siden Meta lanserte Lama-3 400B modell. Ved lanseringen viste modellen lovende, og scoret konkurransedyktig i benchmarks som MMLU, GPQA, HumanEval og MATH, men litt bak etablerte modeller som OpenAIs GPT-4 Turbo og Anthropics Claude 3 Opus.

Metas Llama 3.1 405B er også tilgjengelig på andre plattformer som Amazon Bedrock, Databricks' Mosaic AI Playground og andre.