Microsoftova ogromna platforma AI, ki temelji na FPGA, dosega obdelavo v realnem času na ravni podatkovnega centra

Microsoft je danes razkril nekaj več o tehnologiji, ki bo sčasoma poganjala robote, ki bodo pod svojimi petami drobili naše lobanje.

Microsoftovo platformo za umetno inteligenco, ki temelji na oblaku, imenovano Project Brainwave, poganjajo Intelove nove enote 14 nm Stratix 10 FPGA in lahko zagotovijo trajnih 39.5 teraflopsov, pri čemer vsako zahtevo izvedejo v manj kot eni milisekundi. Ta visoka zmogljivost in izjemno nizka latenca omogočata Microsoftu zagotavljanje umetne inteligence v realnem času, ki postaja vse pomembnejša, saj infrastrukture v oblaku obdelujejo tokove podatkov v živo, ne glede na to, ali gre za iskalne poizvedbe, videoposnetke, tokove senzorjev ali interakcije z uporabniki.

S priklopom visoko zmogljivih FPGA neposredno na njihovo omrežje podatkovnih centrov lahko Microsoft DNN-je služi kot mikrostoritve strojne opreme, kjer je mogoče DNN preslikati v skupino oddaljenih FPGA in jih poklicati strežnik brez programske opreme v zanki. Ta sistemska arhitektura zmanjšuje zamudo, saj CPE-ju ni treba obdelati dohodnih zahtev, in omogoča zelo visoko prepustnost, pri čemer zahteve za obdelavo FPGA tako hitro, kot jih lahko omrežje pretaka.

Project Brainwave uporablja zmogljivo "mehko" DNN procesno enoto (ali DPU), sintetizirano na komercialno dostopnih FPGA, ki združuje bloke za digitalno obdelavo signalov ASIC na FPGA in logiko, ki jo je mogoče sintetizirati, da zagotovi večje in bolj optimizirano število funkcionalnih enot. Z uporabo številnih tehnik po meri lahko doseže zmogljivost, primerljivo ali večjo od mnogih trdo kodiranih DPU čipov.

Da bi razvijalcem pomagal izkoristiti vso to moč, Project Brainwave vključuje sklad programske opreme, zasnovan za podporo širokemu naboru priljubljenih ogrodij globokega učenja. Že podpira Microsoft Cognitive Toolkit in Googlov Tensorflow, načrtujejo pa tudi številne druge.

Sistem je zasnovan tako, da kaže visoko dejansko zmogljivost v širokem naboru zapletenih modelov, z izvedbo brez serije in lahko v realnem času upravlja s kompleksnimi, pomnilniško intenzivnimi modeli, kot so LSTM.

Tudi na zgodnjem siliciju Stratix 10 je Microsoft pokazal preneseni sistem Project Brainwave, ki poganja velik model GRU – petkrat večji od Resnet-50 – brez seriranja in dosegel rekordno zmogljivost. V predstavitvi je bil uporabljen Microsoftov prilagojen 8-bitni format s plavajočo vejico (»ms-fp8«), ki ne trpi (v povprečju) pri različnih modelih.

Pokazali so, da Stratix 10 vzdržuje 39.5 teraflopa na tem velikem GRU, pri čemer vsako zahtevo izvede v manj kot eni milisekundi. Na tej ravni zmogljivosti arhitektura Brainwave vzdržuje izvedbo več kot 130,000 računalniških operacij na cikel, ki jih poganja eno makronavodilo, ki se izda vsakih 10 ciklov. Projekt Brainwave, ki deluje na Stratixu 10, je dosegel neverjetne ravni dokazane zmogljivosti umetne inteligence v realnem času na izjemno zahtevnih modelih, pri čemer je današnja zmogljivost le izhodišče.

Microsoft načrtuje, da bo Project Brainwave leta 2018 prinesel na Azure, tako da bo lahko vsaka stranka pridobila dostop do tehnologije, ki ji bo omogočila izvajanje svojih najbolj zapletenih modelov globokega učenja z rekordno zmogljivostjo in približala Armageddon korak bližje.

Preberite več podrobnosti o tehnologiji tukaj pri Microsoftu.