Dostępna jest obsługa NPU dla DirectML w systemie Windows 11, na razie dostępna wyłącznie dla programistów

Firmy Microsoft i Intel współpracowały przy opublikowaniu wersji deweloperskiej akceleracji jednostki przetwarzania neuronowego (NPU) w DirectML, interfejsie API platformy uczenia maszynowego dla systemu Windows 11. Ta wersja zapoznawcza obsługuje kilka modeli na określonych urządzeniach z systemem Windows 11 z procesorami Intel Core Ultra i funkcją Intel AI Boost.

Mówiąc prościej, Microsoft i Intel testują nowe narzędzia dla systemu Windows 11, które wykorzystują te specjalne chipy (NPU), aby zadania AI działały płynniej i szybciej. Rzeczy takie jak tłumaczenie języków w locie lub odblokowywanie komputera twarzą mogą odbywać się niemal natychmiast i zużywać mniej baterii.

Obsługa NPU DirectML, jak opisano w tej wersji zapoznawczej dla programistów, jest przeznaczona dla procesorów Intel Core Ultra z technologią Intel AI Boost. Użytkownicy zainteresowani testowaniem akceleracji NPU muszą posiadać urządzenie z systemem Windows 11 spełniające tę specyfikację sprzętową. Niezbędne komponenty obejmują pakiet NuGet DirectML 1.31.1, ONNX Runtime 1.17 i najnowszy sterownik NPU firmy Intel®.

Jednakże wczesna wersja ma pewne ograniczenia. Obsługa NPU jest dostępna wyłącznie dla procesorów Intel Core Ultra z technologią Intel AI Boost, a zgodność jest obecnie ograniczona do podzbioru modeli uczenia maszynowego zoptymalizowanych pod kątem akceleracji NPU.

Niektóre modele mogą wykazywać problemy z opóźnieniami, dokładnością lub funkcjonalnością. Firma Microsoft zdaje sobie sprawę z tych ograniczeń i aktywnie pracuje nad udoskonaleniem zgodności i wydajności dla szerszego spektrum modeli w kolejnych wersjach.

Obsługa NPU w DirectML jest obecnie zgodna tylko z podzbiorem modeli uczenia maszynowego, które zostały objęte wsparciem. Niektóre modele mogą w ogóle nie działać lub mogą mieć duże opóźnienia lub niską dokładność. Pracujemy nad poprawą kompatybilności i wydajności większej liczby modeli w przyszłości.

W tej wersji zachęca się użytkowników do przesyłania opinii w celu zwiększenia efektywności obsługi NPU w DirectML, podkreślając jej status jako pracy w toku. Celem jest zapewnienie programistom i użytkownikom wglądu w potencjał tej integracji, jednocześnie potwierdzając trwające wysiłki mające na celu rozszerzenie zasięgu o dodatkowe modele uczenia maszynowego nadające się do akceleracji NPU w przyszłych aktualizacjach.

Więcej tutaj.