NPU-ondersteuning voor DirectML op Windows 11 is er, vanaf nu beperkt tot ontwikkelaars

Microsoft en Intel hebben samengewerkt om een ​​preview voor ontwikkelaars uit te brengen voor Neural Processing Unit (NPU)-versnelling binnen DirectML, de machine learning platform-API voor Windows 11. Deze preview ondersteunt verschillende modellen op specifieke Windows 11-apparaten met Intel Core Ultra-processors met Intel AI Boost.

In eenvoudiger woorden: Microsoft en Intel testen een aantal nieuwe tools voor Windows 11 die deze speciale chips (NPU's) gebruiken om AI-taken soepeler en sneller te laten verlopen. Dingen zoals het direct vertalen van talen of het ontgrendelen van uw computer met uw gezicht kunnen vrijwel onmiddellijk gebeuren en verbruiken minder batterij.

De NPU-ondersteuning van DirectML, zoals uiteengezet in deze preview voor ontwikkelaars, is gericht op Intel Core Ultra-processors met Intel AI Boost. Gebruikers die geïnteresseerd zijn in het verkennen van NPU-versnelling moeten een Windows 11-apparaat hebben dat aan deze hardwarespecificatie voldoet. De benodigde componenten omvatten het DirectML 1.31.1 NuGet-pakket, ONNX Runtime 1.17 en de nieuwste NPU-driver van Intel®.

Er zijn echter bepaalde beperkingen in deze vroege release. NPU-ondersteuning is exclusief voor Intel Core Ultra-processors met Intel AI Boost, en compatibiliteit is momenteel beperkt tot een subset van machine learning-modellen die zijn geoptimaliseerd voor NPU-versnelling.

Sommige modellen vertonen mogelijk latentie-, nauwkeurigheids- of functionaliteitsproblemen. Microsoft erkent deze beperkingen en werkt actief aan het verfijnen van de compatibiliteit en prestaties voor een breder spectrum aan modellen in volgende releases.

NPU-ondersteuning in DirectML is momenteel alleen compatibel met een subset van machine learning-modellen waarvoor ondersteuning is aangevraagd. Sommige modellen werken mogelijk helemaal niet of hebben een hoge latentie of lage nauwkeurigheid. We werken eraan om de compatibiliteit en prestaties van meer modellen in de toekomst te verbeteren.

De release moedigt gebruikersfeedback aan om de effectiviteit van NPU-ondersteuning in DirectML te verbeteren, waarbij de status ervan als een werk in uitvoering wordt benadrukt. Het doel is om ontwikkelaars en gebruikers een kijkje te geven in het potentieel van deze integratie en tegelijkertijd de voortdurende inspanningen te erkennen om de dekking uit te breiden voor aanvullende machine-learning-modellen die geschikt zijn voor NPU-versnelling in toekomstige updates.

Meer hier.