微軟為機器學習模型開源高性能推理引擎

微軟昨天宣布開源 ONNX Runtime，這是一個用於 Linux、Windows 和 Mac 上 ONNX 格式的機器學習模型的高性能推理引擎。 ONNX Runtime 允許開發人員在任何受支持的框架中訓練和調整模型，並在雲和邊緣以高性能生產這些模型。 Microsoft 在內部將 ONNX 運行時用於 Bing 搜索、Bing 廣告、Office 生產力服務等。

ONNX 為 AI 框架生態系統帶來互操作性，提供可擴展計算圖模型的定義，以及內置運算符和標準數據類型的定義。 ONNX 使模型能夠在一個框架中進行訓練並轉移到另一個框架中進行推理。 目前在 Caffe2、Cognitive Toolkit 和 PyTorch 中支持 ONNX 模型。

查看開放式神經網絡交換 (ONNX) 運行時 GitHub在這裡。

資源： Microsoft微軟