Dukungan NPU untuk DirectML di Windows 11 telah hadir, terbatas pada pengembang untuk saat ini

Microsoft dan Intel telah berkolaborasi untuk merilis pratinjau pengembang untuk akselerasi Neural Processing Unit (NPU) dalam DirectML, API platform pembelajaran mesin untuk Windows 11. Pratinjau ini mendukung beberapa model pada perangkat Windows 11 tertentu dengan prosesor Intel Core Ultra yang dilengkapi Intel AI Boost.

Sederhananya, Microsoft dan Intel sedang menguji beberapa alat baru untuk Windows 11 yang menggunakan chip khusus (NPU) ini untuk membuat tugas AI berjalan lebih lancar dan cepat. Hal-hal seperti menerjemahkan bahasa dengan cepat atau membuka kunci komputer dengan wajah mungkin terjadi seketika dan menggunakan lebih sedikit baterai.

Dukungan NPU DirectML, sebagaimana diuraikan dalam pratinjau pengembang ini, ditargetkan pada prosesor Intel Core Ultra dengan Intel AI Boost. Pengguna yang tertarik untuk mengeksplorasi akselerasi NPU diharuskan memiliki perangkat Windows 11 yang memenuhi spesifikasi perangkat keras ini. Komponen yang diperlukan mencakup paket DirectML 1.31.1 NuGet, ONNX Runtime 1.17, dan driver NPU terbaru dari Intel®.

Namun, ada batasan tertentu pada rilis awal ini. Dukungan NPU eksklusif untuk prosesor Intel Core Ultra dengan Intel AI Boost, dan kompatibilitas saat ini terbatas pada subset model pembelajaran mesin yang dioptimalkan untuk akselerasi NPU.

Beberapa model mungkin menunjukkan masalah latensi, akurasi, atau fungsionalitas. Microsoft menyadari keterbatasan ini dan secara aktif berupaya menyempurnakan kompatibilitas dan kinerja untuk spektrum model yang lebih luas pada rilis berikutnya.

Dukungan NPU di DirectML saat ini hanya kompatibel dengan sebagian model pembelajaran mesin yang telah ditargetkan untuk mendapatkan dukungan. Beberapa model mungkin tidak berjalan sama sekali atau mungkin memiliki latensi tinggi atau akurasi rendah. Kami berupaya meningkatkan kompatibilitas dan kinerja lebih banyak model di masa depan.

Rilis ini mendorong masukan dari pengguna untuk meningkatkan efektivitas dukungan NPU di DirectML, dengan menekankan statusnya sebagai pekerjaan yang sedang berjalan. Tujuannya adalah untuk memberikan gambaran sekilas kepada pengembang dan pengguna tentang potensi integrasi ini sambil mengakui upaya berkelanjutan untuk memperluas cakupan model pembelajaran mesin tambahan yang sesuai untuk akselerasi NPU di pembaruan mendatang.

More di sini.