O suporte NPU para DirectML no Windows 11 está aqui, limitado aos desenvolvedores a partir de agora

A Microsoft e a Intel colaboraram para lançar uma prévia do desenvolvedor para aceleração da Unidade de Processamento Neural (NPU) dentro do DirectML, a API da plataforma de aprendizado de máquina para Windows 11. Esta prévia oferece suporte a vários modelos em dispositivos Windows 11 específicos com processadores Intel Core Ultra com Intel AI Boost.

Em palavras mais fáceis, a Microsoft e a Intel estão testando algumas novas ferramentas para Windows 11 que usam esses chips especiais (NPUs) para tornar as tarefas de IA executadas de maneira mais suave e rápida. Coisas como traduzir idiomas rapidamente ou desbloquear o computador com o rosto podem acontecer quase instantaneamente e consumir menos bateria.

O suporte NPU do DirectML, conforme descrito nesta prévia do desenvolvedor, é direcionado aos processadores Intel Core Ultra com Intel AI Boost. Os usuários interessados ​​em explorar a aceleração NPU devem ter um dispositivo Windows 11 que atenda a esta especificação de hardware. Os componentes necessários incluem o pacote DirectML 1.31.1 NuGet, ONNX Runtime 1.17 e o driver NPU mais recente da Intel®.

No entanto, existem certas limitações nesta versão inicial. O suporte a NPU é exclusivo para processadores Intel Core Ultra com Intel AI Boost, e a compatibilidade está atualmente confinada a um subconjunto de modelos de aprendizado de máquina otimizados para aceleração de NPU.

Alguns modelos podem apresentar problemas de latência, precisão ou funcionalidade. A Microsoft reconhece essas limitações e está trabalhando ativamente para refinar a compatibilidade e o desempenho para um espectro mais amplo de modelos em versões subsequentes.

Atualmente, o suporte a NPU no DirectML só é compatível com um subconjunto de modelos de aprendizado de máquina que foram direcionados para suporte. Alguns modelos podem não funcionar ou podem ter alta latência ou baixa precisão. Estamos trabalhando para melhorar a compatibilidade e o desempenho de mais modelos no futuro.

O lançamento incentiva o feedback dos usuários para aumentar a eficácia do suporte NPU em DirectML, enfatizando seu status como um trabalho em andamento. O objetivo é fornecer aos desenvolvedores e usuários uma visão do potencial dessa integração, ao mesmo tempo em que reconhece os esforços contínuos para expandir a cobertura para modelos adicionais de aprendizado de máquina adequados para aceleração de NPU em atualizações futuras.

Mais aqui.