Motore di inferenza ad alte prestazioni Microsoft open source per modelli di machine learning

Microsoft ha annunciato ieri l'open sourcing di ONNX Runtime, un motore di inferenza ad alte prestazioni per modelli di machine learning nel formato ONNX su Linux, Windows e Mac. ONNX Runtime consente agli sviluppatori di addestrare e ottimizzare i modelli in qualsiasi framework supportato e di produrre questi modelli con prestazioni elevate sia nel cloud che nell'edge. Microsoft utilizza ONNX Runtime internamente per Bing Search, Bing Ads, servizi di produttività di Office e altro ancora.

ONNX offre l'interoperabilità all'ecosistema del framework AI fornendo una definizione di un modello grafico di calcolo estensibile, nonché definizioni di operatori integrati e tipi di dati standard. ONNX consente ai modelli di essere addestrati in un framework e trasferiti a un altro per l'inferenza. I modelli ONNX sono attualmente supportati in Caffe2, Cognitive Toolkit e PyTorch.

Dai un'occhiata al runtime di Open Neural Network Exchange (ONNX) su GitHub qui.

Fonte: Microsoft