Високопродуктивний механізм висновку Microsoft із відкритим кодом для моделей машинного навчання

Вчора Microsoft оголосила, що відкриває ONNX Runtime, високопродуктивний механізм висновку для моделей машинного навчання у форматі ONNX для Linux, Windows і Mac. ONNX Runtime дозволяє розробникам навчати й налаштовувати моделі в будь-якій підтримуваній платформі та створювати ці моделі з високою продуктивністю як у хмарі, так і на периферії. Корпорація Майкрософт використовує ONNX Runtime внутрішньо для пошуку Bing, оголошень Bing, служб підвищення продуктивності Office тощо.

ONNX забезпечує взаємодію з екосистемою AI Framework, надаючи визначення моделі розширеного графа обчислень, а також визначення вбудованих операторів і стандартних типів даних. ONNX дає змогу навчати моделі в одній структурі та передавати їх в іншу для висновку. Моделі ONNX наразі підтримуються в Caffe2, Cognitive Toolkit і PyTorch.

Ознайомтеся з Open Neural Network Exchange (ONNX) Runtime on GitHub тут.

джерело: Microsoft