ONNX Runtime พร้อมใช้งานสำหรับอุปกรณ์ Android และ iOS แล้ว

ONNX Runtime รีลีส 1.10 รองรับ Android และ iOS แล้ว ตอนนี้นักพัฒนาสามารถสร้างแอปพลิเคชัน AI โดยใช้ Xamarin.Forms สำหรับ Android และ iOS เพื่อรันโมเดล ONNX บนอุปกรณ์มือถือที่มี ONNX Runtime

• แพ็คเกจใหม่นี้รองรับการใช้งานรุ่น ONNX บน CPU ของอุปกรณ์โดยใช้ตัวให้บริการการดำเนินการ CPU เริ่มต้น ฮาร์ดแวร์โทรศัพท์บางตัวมีฮาร์ดแวร์เฉพาะ (NPU) สำหรับการดำเนินการ ML อย่างมีประสิทธิภาพผ่านอินเทอร์เฟซ NNAPI (Android) และ CoreML (iOS)
• ด้วยแพ็คเกจ ONNX Runtime Mobile นักพัฒนาสามารถเลือกที่จะใช้ NNAPI (Android) หรือ CoreML (iOS) Execution Providers ที่มีอยู่ในแพ็คเกจ

นักพัฒนาสามารถเลือกระหว่างแพ็คเกจ ONNX Runtime Mobile สองแพ็คเกจ หนึ่งคือแพ็คเกจที่สร้างไว้ล่วงหน้าซึ่งมีชุดย่อยของชุดตัวดำเนินการ ONNX ที่เน้นที่สถานการณ์ AI บนมือถือ และอีกแพ็คเกจหนึ่งคือแพ็คเกจแบบกำหนดเองที่สามารถสร้างตามรุ่นเฉพาะที่ใช้โดยแอปพลิเคชัน AI

ที่มา: ไมโครซอฟท์