NPU-Unterstützung für DirectML unter Windows 11 ist da und ab sofort auf Entwickler beschränkt

Microsoft und Intel haben zusammengearbeitet, um eine Entwicklervorschau für die Beschleunigung der Neural Processing Unit (NPU) in DirectML, der API der maschinellen Lernplattform für Windows 11, zu veröffentlichen. Diese Vorschau unterstützt mehrere Modelle auf bestimmten Windows 11-Geräten mit Intel Core Ultra-Prozessoren mit Intel AI Boost.

Einfacher ausgedrückt testen Microsoft und Intel einige neue Tools für Windows 11, die diese speziellen Chips (NPUs) nutzen, um KI-Aufgaben reibungsloser und schneller laufen zu lassen. Dinge wie das spontane Übersetzen von Sprachen oder das Entsperren Ihres Computers mit Ihrem Gesicht können fast sofort erfolgen und weniger Batterie verbrauchen.

Die NPU-Unterstützung von DirectML ist, wie in dieser Entwicklervorschau beschrieben, auf Intel Core Ultra-Prozessoren mit Intel AI Boost ausgerichtet. Benutzer, die sich für die NPU-Beschleunigung interessieren, benötigen ein Windows 11-Gerät, das diese Hardwarespezifikation erfüllt. Zu den notwendigen Komponenten gehören das DirectML 1.31.1 NuGet-Paket, ONNX Runtime 1.17 und der neueste NPU-Treiber von Intel®.

Allerdings gibt es in dieser frühen Version bestimmte Einschränkungen. Die NPU-Unterstützung ist exklusiv für Intel Core Ultra-Prozessoren mit Intel AI Boost und die Kompatibilität ist derzeit auf eine Teilmenge von Modellen für maschinelles Lernen beschränkt, die für die NPU-Beschleunigung optimiert sind.

Bei einigen Modellen können Probleme mit der Latenz, der Genauigkeit oder der Funktionalität auftreten. Microsoft ist sich dieser Einschränkungen bewusst und arbeitet aktiv daran, die Kompatibilität und Leistung für ein breiteres Spektrum von Modellen in nachfolgenden Versionen zu verbessern.

Die NPU-Unterstützung in DirectML ist derzeit nur mit einer Teilmenge der maschinellen Lernmodelle kompatibel, die unterstützt werden sollen. Einige Modelle funktionieren möglicherweise überhaupt nicht oder weisen eine hohe Latenz oder geringe Genauigkeit auf. Wir arbeiten daran, die Kompatibilität und Leistung weiterer Modelle in Zukunft zu verbessern.

Die Veröffentlichung ermutigt Benutzer zum Feedback, um die Effektivität der NPU-Unterstützung in DirectML zu verbessern, und unterstreicht den Status als laufende Arbeit. Ziel ist es, Entwicklern und Benutzern einen Einblick in das Potenzial dieser Integration zu geben und gleichzeitig die laufenden Bemühungen zu würdigen, die Abdeckung weiterer Modelle für maschinelles Lernen, die für die NPU-Beschleunigung geeignet sind, in zukünftigen Updates zu erweitern.

Mehr hier.