Microsoft koulutti Phi-3 Miniä vain viikon ajan Nvidian tekoälyystävällisillä H100-grafiikkasuorittimilla

Phi-3:n Mini-versio on ainoa malli, joka on tällä hetkellä saatavilla

Lukuajan kuvake 2 min. lukea


Lukijat auttavat tukemaan MSpoweruseria. Saatamme saada palkkion, jos ostat linkkien kautta. Työkaluvihje-kuvake

Lue ilmoitussivumme saadaksesi selville, kuinka voit auttaa MSPoweruseria ylläpitämään toimitustiimiä Lue lisää

Keskeiset huomautukset

  • Microsoft julkaisi Phi-3-malleja, joita johti Phi-3 Mini 3.8B-parametreilla,
  • Mallia koulutettiin 3.3 biljoonaa tokenia seitsemässä päivässä käyttäen 512 NVIDIA H100 GPU:ta.
  • Phi-3-perhe sisältää myös pieniä ja keskikokoisia versioita, jotka ovat parempia kuin aiemmat mallit, kuten Phi-2.

Microsoft käynnisti Phi-3 perhe malleista, yksi markkinoiden parhaista pienistä malleista tällä hetkellä. Ja nyt Nvidia sanoi ja kuvaili, kuinka Redmond-yhtiö käytti H100-grafiikkasuorittimiaan kouluttaakseen näitä malleja, tai tarkemmin sanottuna Mini, 3.8B-versiota.

"Mallissa on 3.8 miljardia parametria, ja sitä koulutettiin 3.3 biljoonaa merkkiä varten vain seitsemässä päivässä 512 NVIDIA H100 Tensor Core -grafiikkasuorittimella", sanoo teknologian valmistaja tiistaina. 

Phi-3-perheessä on kolme versiota: Phi-3 Mini (3.8B), Phi-3 Small (7B) ja Phi-3 Medium (14B). Se on valtava parannus edelliseen Phi-2 joka lanseerattiin vain 2.7 B parametrilla kuukautta sitten. 

Tarkemmin sanottuna Phi-3 Mini sisältää myös kaksi vaihtoehtoa tuetuista tokeneista riippuen: 4K ja 128K. Voit kokeilla jälkimmäistä Nvidian AI-keskuksessa Nvidia NIM -palveluna kehittäjille ja ajaa mallia paikallisesti Windows DirectML:n tai TensorRT-LLM:n avulla.

"Phi-3-mallit ovat merkittävästi parempia kuin samankokoiset ja isommat kielimallit tärkeimmissä vertailuarvoissa (katso vertailuarvot alla, korkeampi on parempi)," Microsoft sanoi lanseerattaessa malleja, kehua, että Small ja Medium versiot voivat ylittää suurempia malleja, kuten GPT-3.5T. 

Mini-versio on tällä hetkellä saatavilla markkinoilla, mutta Microsoft lupasi, että kaikki kaksi muuta mallia ovat saatavilla pian. Voit myös kokeilla Phi-3 Miniä Azure AI:llä ja Hugging Facella.

Jätä vastaus

Sähköpostiosoitettasi ei julkaista. Pakolliset kentät on merkitty *