Высокопроизводительный механизм логического вывода Microsoft с открытым исходным кодом для моделей машинного обучения

Вчера Microsoft объявила об открытом исходном коде ONNX Runtime, высокопроизводительном механизме логического вывода для моделей машинного обучения в формате ONNX для Linux, Windows и Mac. ONNX Runtime позволяет разработчикам обучать и настраивать модели в любой поддерживаемой среде, а также производить эти модели с высокой производительностью как в облаке, так и на периферии. Microsoft использует ONNX Runtime для внутреннего поиска Bing, Bing Ads, служб повышения производительности Office и многого другого.

ONNX обеспечивает функциональную совместимость экосистемы инфраструктуры ИИ, предоставляя определение модели расширяемого графа вычислений, а также определения встроенных операторов и стандартных типов данных. ONNX позволяет обучать модели в одной среде и передавать их в другую для вывода. В настоящее время модели ONNX поддерживаются в Caffe2, Cognitive Toolkit и PyTorch.

Ознакомьтесь со средой выполнения Open Neural Network Exchange (ONNX) на Гитхаб здесь.

Источник: Microsoft