Η τεράστια πλατφόρμα AI της Microsoft που βασίζεται σε FPGA επιτυγχάνει επεξεργασία σε πραγματικό χρόνο σε κλίμακα κέντρου δεδομένων

Η Microsoft αποκάλυψε σήμερα μερικά περισσότερα για την τεχνολογία που θα τροφοδοτήσει τελικά τα ρομπότ που θα συνθλίψουν τα κρανία μας κάτω από τις φτέρνες τους.

Με την ονομασία Project Brainwave, η πλατφόρμα τεχνητής νοημοσύνης της Microsoft που βασίζεται σε σύννεφο τροφοδοτείται από τις νέες μονάδες FPGA 14 nm Stratix 10 της Intel και είναι σε θέση να παρέχει σταθερά 39.5 Teraflops, εκτελώντας κάθε αίτημα σε λιγότερο από ένα χιλιοστό του δευτερολέπτου. Αυτή η υψηλή απόδοση και η εξαιρετικά χαμηλή καθυστέρηση επιτρέπουν στη Microsoft να παρέχει AI σε πραγματικό χρόνο, η οποία γίνεται ολοένα και πιο σημαντική καθώς οι υποδομές cloud επεξεργάζονται ζωντανές ροές δεδομένων, είτε πρόκειται για ερωτήματα αναζήτησης, βίντεο, ροές αισθητήρων ή αλληλεπιδράσεις με χρήστες.

Προσαρτώντας FPGA υψηλής απόδοσης απευθείας στο δίκτυο του κέντρου δεδομένων της, η Microsoft μπορεί να εξυπηρετήσει DNN ως μικροϋπηρεσίες υλικού, όπου ένα DNN μπορεί να αντιστοιχιστεί σε μια δεξαμενή απομακρυσμένων FPGA και να κληθεί από έναν διακομιστή χωρίς λογισμικό στον βρόχο. Αυτή η αρχιτεκτονική συστήματος μειώνει τόσο τον λανθάνοντα χρόνο, καθώς η CPU δεν χρειάζεται να επεξεργάζεται εισερχόμενα αιτήματα και επιτρέπει πολύ υψηλή απόδοση, με τα αιτήματα επεξεργασίας FPGA τόσο γρήγορα όσο το δίκτυο μπορεί να τα μεταφέρει σε ροή.

Το Project Brainwave χρησιμοποιεί μια ισχυρή «μαλακή» μονάδα επεξεργασίας DNN (ή DPU), που συντίθεται σε εμπορικά διαθέσιμα FPGA που συνδυάζει τόσο τα μπλοκ επεξεργασίας ψηφιακού σήματος ASIC στα FPGA όσο και τη λογική σύνθεσης για να παρέχει μεγαλύτερο και πιο βελτιστοποιημένο αριθμό λειτουργικών μονάδων. Χρησιμοποιώντας έναν αριθμό προσαρμοσμένων τεχνικών, μπορεί να επιτύχει απόδοση συγκρίσιμη –ή μεγαλύτερη από– με πολλά σκληρά κωδικοποιημένα τσιπ DPU.

Για να βοηθήσει τους προγραμματιστές να χρησιμοποιήσουν όλη αυτή τη δύναμη, το Project Brainwave ενσωματώνει μια στοίβα λογισμικού σχεδιασμένη να υποστηρίζει το ευρύ φάσμα δημοφιλών πλαισίων βαθιάς εκμάθησης. Υποστηρίζει ήδη το Microsoft Cognitive Toolkit και το Tensorflow της Google, με σχέδια για υποστήριξη πολλών άλλων.

Το σύστημα έχει σχεδιαστεί για να δείχνει υψηλή πραγματική απόδοση σε ένα ευρύ φάσμα πολύπλοκων μοντέλων, με εκτέλεση χωρίς παρτίδες και μπορεί να χειριστεί σύνθετα μοντέλα με ένταση μνήμης, όπως LSTM σε πραγματικό χρόνο.

Ακόμη και στο πρώιμο πυρίτιο Stratix 10, η Microsoft έδειξε το μεταφερμένο σύστημα Project Brainwave που εκτελούσε ένα μεγάλο μοντέλο GRU —πέντε φορές μεγαλύτερο από το Resnet-50— χωρίς παρτίδες και πέτυχε απόδοση ρεκόρ. Η επίδειξη χρησιμοποιούσε την προσαρμοσμένη μορφή κινητής υποδιαστολής 8-bit της Microsoft ("ms-fp8"), η οποία δεν υφίσταται απώλειες ακρίβειας (κατά μέσο όρο) σε μια σειρά μοντέλων.

Έδειξαν το Stratix 10 να διατηρεί 39.5 Teraflops σε αυτό το μεγάλο GRU, εκτελώντας κάθε αίτημα σε λιγότερο από ένα χιλιοστό του δευτερολέπτου. Σε αυτό το επίπεδο απόδοσης, η αρχιτεκτονική Brainwave υποστηρίζει την εκτέλεση πάνω από 130,000 υπολογιστικών πράξεων ανά κύκλο, καθοδηγούμενες από μία μακροεντολή που εκδίδεται κάθε 10 κύκλους. Λειτουργώντας στο Stratix 10, το Project Brainwave πέτυχε πρωτόγνωρα επίπεδα αποδεδειγμένης απόδοσης τεχνητής νοημοσύνης σε πραγματικό χρόνο σε εξαιρετικά απαιτητικά μοντέλα, με τη σημερινή απόδοση να είναι απλώς ένα σημείο εκκίνησης.

Η Microsoft σχεδιάζει να φέρει το Project Brainwave στο Azure το 2018, ώστε οποιοσδήποτε πελάτης να έχει πρόσβαση στην τεχνολογία, επιτρέποντάς του να εκτελέσει τα πιο σύνθετα μοντέλα βαθιάς εκμάθησης με απόδοση ρεκόρ και να φέρει τον Armageddon ένα βήμα πιο κοντά.

Διαβάστε περισσότερες λεπτομέρειες για την τεχνολογία στη Microsoft εδώ.