Microsoft je Phi-3 Mini uril le teden dni z Nvidijinimi AI-prijaznimi grafičnimi procesorji H100
Mini različica Phi-3 je edini model, ki je trenutno na voljo
2 min. prebrati
Objavljeno dne
Dajte v skupno rabo ta članek
Izboljšajte ta vodnik
Preberite našo stran za razkritje, če želite izvedeti, kako lahko pomagate MSPoweruser vzdrževati uredniško skupino Preberi več
Ključne opombe
- Microsoft je predstavil modele Phi-3, na čelu s Phi-3 Mini s parametri 3.8B,
- Model je bil v sedmih dneh naučen na 3.3 bilijona žetonov z uporabo 512 grafičnih procesorjev NVIDIA H100.
- Družina Phi-3 vključuje tudi majhne in srednje različice, ki prekašajo prejšnje modele, kot je Phi-2.
Microsoft je začel Družina Phi-3 modelov, eden najboljših majhnih modelov na trgu v tem trenutku. In zdaj, Nvidia je dejal in opisal, kako je podjetje Redmond uporabilo svoje grafične procesorje H100 za usposabljanje teh modelov ali natančneje različice Mini, 3.8B.
»Model ima 3.8 milijarde parametrov in je bil v samo sedmih dneh naučen na 3.3 bilijona žetonov na 512 grafičnih procesorjih NVIDIA H100 Tensor Core,« pravi tehnični proizvajalec v torek.
Družina Phi-3 ima tri različice: Phi-3 Mini (3.8B), Phi-3 Small (7B) in Phi-3 Medium (14B). To je velik napredek v primerjavi s prejšnjim Phi-2 ki je bil lansiran s samo 2.7B parametrov pred meseci.
Natančneje, Phi-3 Mini ima tudi dve možnosti, odvisno od podpornih žetonov: 4K in 128K. Slednjo lahko preizkusite v Nvidijinem AI centru kot storitev Nvidia NIM za razvijalce in model zaženete lokalno z uporabo Windows DirectML ali TensorRT-LLM.
»Modeli Phi-3 bistveno prekašajo jezikovne modele enakih in večjih velikosti na ključnih merilih uspešnosti (glejte številke primerjalnih vrednosti spodaj, višje je boljše),« Microsoft je dejal ob lansiranju modelov se hvali, da lahko različici Small in Medium prekašata večje modele, kot je GPT-3.5T.
Različica Mini je trenutno na voljo na trgu, vendar je Microsoft obljubil, da bosta vsa druga dva modela na voljo kmalu. Phi-3 Mini lahko preizkusite tudi na Azure AI in Hugging Face.
