Microsoft ha addestrato Phi-3 Mini solo per una settimana con le GPU H100 compatibili con l'intelligenza artificiale di Nvidia
La versione Mini di Phi-3 è l'unico modello attualmente disponibile
2 minuto. leggere
Edizione del
Condividi questo articolo
Migliora questa guida
Leggi la nostra pagina informativa per scoprire come puoi aiutare MSPoweruser a sostenere il team editoriale Per saperne di più
Note chiave
- Microsoft ha lanciato i modelli Phi-3, guidati da Phi-3 Mini con parametri 3.8B,
- Il modello è stato addestrato su 3.3 trilioni di token in sette giorni utilizzando 512 GPU NVIDIA H100.
- La famiglia Phi-3 comprende anche le varianti Small e Medium, superando i modelli precedenti come Phi-2.
Microsoft ha lanciato il Famiglia Phi-3 di modelli, uno dei migliori modelli piccoli sul mercato al momento. E ora, Nvidia disse e ha descritto come l'azienda di Redmond ha utilizzato le sue GPU H100 per addestrare questi modelli, o più specificamente, la versione Mini 3.8B.
"Il modello ha 3.8 miliardi di parametri ed è stato addestrato su 3.3 trilioni di token in soli sette giorni su 512 GPU NVIDIA H100 Tensor Core", afferma martedì il produttore tecnologico.
La famiglia Phi-3 è disponibile in tre varianti: Phi-3 Mini (3.8B), Phi-3 Small (7B) e Phi-3 Medium (14B). È un enorme miglioramento rispetto al precedente Phi-2 che è stato lanciato con soli 2.7 miliardi di parametri mesi fa.
Phi-3 Mini, più specificamente, viene fornito anche con due opzioni a seconda dei token supportati: 4K e 128K. Puoi provare quest'ultimo presso il centro AI di Nvidia come servizio NIM NIM per sviluppatori ed eseguire il modello localmente utilizzando Windows DirectML o TensorRT-LLM.
"I modelli Phi-3 superano significativamente i modelli linguistici delle stesse dimensioni e di dimensioni maggiori nei benchmark chiave (vedi i numeri dei benchmark di seguito, più alto è meglio)" Microsoft disse quando si lanciano i modelli, vantandosi che le versioni Small e Medium possono superare i modelli più grandi come GPT-3.5T.
La versione Mini è quella attualmente disponibile sul mercato, ma Microsoft ha promesso che tutti gli altri due modelli saranno disponibili a breve. Puoi anche provare Phi-3 Mini su Azure AI e Hugging Face.
