Podpora NPU pro DirectML ve Windows 11 je zde a je nyní omezena na vývojáře

Společnosti Microsoft a Intel spolupracovaly na vydání vývojářského náhledu pro akceleraci Neural Processing Unit (NPU) v rámci DirectML, API platformy strojového učení pro Windows 11. Tento náhled podporuje několik modelů na konkrétních zařízeních Windows 11 s procesory Intel Core Ultra s Intel AI Boost.

Jednoduše řečeno, Microsoft a Intel testují některé nové nástroje pro Windows 11, které používají tyto speciální čipy (NPU) k tomu, aby úkoly AI běžely plynuleji a rychleji. Věci, jako je překládání jazyků za běhu nebo odemykání počítače obličejem, se mohou stát téměř okamžitě a spotřebovat méně baterie.

Podpora NPU DirectML, jak je uvedeno v tomto náhledu pro vývojáře, je zaměřena na procesory Intel Core Ultra s Intel AI Boost. Uživatelé, kteří mají zájem prozkoumat akceleraci NPU, musí mít zařízení s Windows 11 splňující tuto hardwarovou specifikaci. Nezbytné součásti zahrnují balíček DirectML 1.31.1 NuGet, ONNX Runtime 1.17 a nejnovější ovladač NPU od společnosti Intel®.

V tomto raném vydání však existují určitá omezení. Podpora NPU je exkluzivní pro procesory Intel Core Ultra s Intel AI Boost a kompatibilita je v současnosti omezena na podmnožinu modelů strojového učení optimalizovaných pro akceleraci NPU.

Některé modely mohou vykazovat problémy s latencí, přesností nebo funkčností. Společnost Microsoft uznává tato omezení a aktivně pracuje na vylepšení kompatibility a výkonu pro širší spektrum modelů v následujících verzích.

Podpora NPU v DirectML je v současné době kompatibilní pouze s podmnožinou modelů strojového učení, které byly zaměřeny na podporu. Některé modely nemusí fungovat vůbec nebo mohou mít vysokou latenci nebo nízkou přesnost. Pracujeme na zlepšení kompatibility a výkonu více modelů v budoucnu.

Vydání podporuje zpětnou vazbu od uživatelů ke zvýšení efektivity podpory NPU v DirectML a zdůrazňuje její stav jako nedokončené. Cílem je poskytnout vývojářům a uživatelům pohled na potenciál této integrace a zároveň ocenit pokračující snahy o rozšíření pokrytí pro další modely strojového učení vhodné pro akceleraci NPU v budoucích aktualizacích.

Více zde.