Snowflake Arctic je ponosen kot "najboljši LLM za podjetja AI." To je kar velika trditev
Zdaj lahko preizkusite Snowflake na HuggingFace
2 min. prebrati
Objavljeno dne
Dajte v skupno rabo ta članek
Izboljšajte ta vodnik
Preberite našo stran za razkritje, če želite izvedeti, kako lahko pomagate MSPoweruser vzdrževati uredniško skupino Preberi več
Ključne opombe
- Snowflake predstavlja Arctic in trdi, da je konkurenčna Llami 3 70B z nižjimi stroški.
- Arctic je odličen pri opravilih podjetij, kot sta kodiranje in generiranje SQL.
- Z uporabo Dense-MoE Hybrid Arctic optimizira učinkovitost za različne velikosti serij.
Snowflake, velikan računalništva v oblaku, ki so ga sprva ustanovili nekdanji Oraclovi znanstveniki, zdaj izziva velike igralce v vojni umetne inteligence. Podjetje se je začelo Snežinka Arktika, njegov najnovejši »najboljši LLM za umetno inteligenco v podjetjih«, in trdil, da je boljši od primerljivega z Llama 3 70B in boljši od njegove različice 8B.
V svoji objavi Snowflake trdi, da se model Arctic ujema z zmogljivostjo Llama 3 70B, vendar z nižjimi računalniškimi zahtevami in stroški. Oglašujejo ga kot idealnega za naloge poslovne inteligence na področjih in merilih, kot so kodiranje (HumanEval+ in MBPP+), generiranje SQL (Spider) in sledenje navodilom (IFEval).
To je velika trditev, še posebej glede na to Lama 3 70B je v pomembnih testih dobro deloval proti drugim večjim modelom, kot sta GPT-4 Turbo in Claude 3 Opus. Metin prihajajoči model naj bi dosegel dobre rezultate pri merilih, kot so MMLU (za razumevanje predmetov), GPQA (biologija, fizika in kemija ter HumanEval (kodiranje).
Snowflake Arctic združuje gost transformator 10B s 128×3.66B MoE MLP z uporabo hibrida Dense-MoE. To skupaj vsebuje 480B parametrov, vendar se aktivno uporablja samo 17B, izbranih z zgornjima 2 preklopoma.
Za majhne serije, kot je 1, Arctic zmanjša branje pomnilnika do 4-krat v primerjavi s Code-Llama 70B in do 2.5-krat manj kot Mixtral 8x22B. Ker pa se velikosti paketov znatno povečajo, postane Arktika vezana na računalništvo. Porabi 4x manj računalništva kot CodeLlama 70B in Llama 3 70B.
Snowflake Arctic lahko preizkusite HuggingFace. Podjetje tudi obljublja, da bo model kmalu prispel na druge vrtove modelov, kot so AWS, Microsoft Azure, Perplexity in drugi.
