La compatibilidad con NPU para DirectML en Windows 11 ya está aquí, limitada a desarrolladores a partir de ahora

Microsoft e Intel han colaborado para lanzar una vista previa para desarrolladores para la aceleración de la Unidad de procesamiento neuronal (NPU) dentro de DirectML, la API de la plataforma de aprendizaje automático para Windows 11. Esta vista previa admite varios modelos en dispositivos específicos con Windows 11 con procesadores Intel Core Ultra con Intel AI Boost.

En palabras más sencillas, Microsoft e Intel están probando algunas herramientas nuevas para Windows 11 que utilizan estos chips especiales (NPU) para hacer que las tareas de IA se ejecuten de manera más fluida y rápida. Cosas como traducir idiomas sobre la marcha o desbloquear tu computadora con tu cara pueden ocurrir casi instantáneamente y consumir menos batería.

La compatibilidad con NPU de DirectML, como se describe en esta vista previa para desarrolladores, está dirigida a los procesadores Intel Core Ultra con Intel AI Boost. Los usuarios interesados ​​en explorar la aceleración de NPU deben tener un dispositivo con Windows 11 que cumpla con esta especificación de hardware. Los componentes necesarios incluyen el paquete DirectML 1.31.1 NuGet, ONNX Runtime 1.17 y el controlador NPU más reciente de Intel®.

Sin embargo, existen ciertas limitaciones en esta versión anticipada. La compatibilidad con NPU es exclusiva de los procesadores Intel Core Ultra con Intel AI Boost, y la compatibilidad actualmente se limita a un subconjunto de modelos de aprendizaje automático optimizados para la aceleración de NPU.

Algunos modelos pueden presentar problemas de latencia, precisión o funcionalidad. Microsoft reconoce estas limitaciones y está trabajando activamente para perfeccionar la compatibilidad y el rendimiento de un espectro más amplio de modelos en versiones posteriores.

Actualmente, la compatibilidad con NPU en DirectML solo es compatible con un subconjunto de modelos de aprendizaje automático que han sido objeto de soporte. Es posible que algunos modelos no se ejecuten en absoluto o que tengan una latencia alta o una precisión baja. Estamos trabajando para mejorar la compatibilidad y el rendimiento de más modelos en el futuro.

El lanzamiento fomenta los comentarios de los usuarios para mejorar la eficacia del soporte de NPU en DirectML, enfatizando su estado como un trabajo en progreso. El objetivo es brindar a los desarrolladores y usuarios una idea del potencial de esta integración y al mismo tiempo reconocer los esfuerzos continuos para ampliar la cobertura de modelos adicionales de aprendizaje automático adecuados para la aceleración de NPU en futuras actualizaciones.

Más aquí.