기계 학습 모델을 위한 Microsoft 오픈 소스 고성능 추론 엔진

Microsoft는 어제 Linux, Windows 및 Mac에서 ONNX 형식의 기계 학습 모델용 고성능 추론 엔진인 ONNX Runtime을 오픈 소싱한다고 발표했습니다. 개발자는 ONNX Runtime을 사용하여 지원되는 모든 프레임워크에서 모델을 교육 및 조정하고 클라우드와 에지 모두에서 고성능으로 이러한 모델을 생산할 수 있습니다. Microsoft는 Bing Search, Bing Ads, Office 생산성 서비스 등에 내부적으로 ONNX Runtime을 사용하고 있습니다.

ONNX는 확장 가능한 계산 그래프 모델의 정의는 물론 내장 연산자 및 표준 데이터 유형의 정의를 제공하는 AI 프레임워크 생태계에 상호 운용성을 제공합니다. ONNX를 사용하면 모델을 한 프레임워크에서 훈련하고 추론을 위해 다른 프레임워크로 전송할 수 있습니다. ONNX 모델은 현재 Caffe2, Cognitive Toolkit 및 PyTorch에서 지원됩니다.

ONNX(Open Neural Network Exchange) 런타임을 확인하십시오. 여기 GitHub.

출처: Microsoft