ONNX Runtime jetzt für Android- und iOS-Geräte verfügbar
1 Minute. lesen
Veröffentlicht am
Lesen Sie unsere Offenlegungsseite, um herauszufinden, wie Sie MSPoweruser dabei helfen können, das Redaktionsteam zu unterstützen Lesen Sie weiter
ONNX Runtime Version 1.10 unterstützt jetzt Android und iOS. Entwickler können jetzt KI-Anwendungen mit Xamarin.Forms für Android und iOS erstellen, um ONNX-Modelle auf Mobilgeräten mit ONNX Runtime auszuführen.
- Dieses neue Paket unterstützt die Ausführung von ONNX-Modellen auf der CPU des Geräts mithilfe des standardmäßigen CPU-Ausführungsanbieters. Einige Telefonhardware enthält spezielle Hardware (NPUs) für eine effiziente ML-Ausführung über die Schnittstellen NNAPI (Android) und CoreML (iOS).
- Mit dem ONNX Runtime Mobile-Paket können Entwickler wählen, ob sie die im Paket verfügbaren NNAPI (Android)- oder CoreML (iOS)-Ausführungsanbieter verwenden möchten.
Entwickler können zwischen zwei ONNX Runtime Mobile-Paketen wählen. Eines ist das vorgefertigte Paket, das eine Teilmenge des ONNX-Betreibersatzes enthält, der sich auf die mobilen KI-Szenarien konzentriert, und ein anderes ist ein benutzerdefiniertes Paket, das basierend auf den spezifischen Modellen generiert werden kann, die von der KI-Anwendung verwendet werden.
Quelle: Microsoft