مجموعه ابزار شبکه محاسباتی مایکروسافت در عملکرد یادگیری عمیق توزیع شده گوگل TensorFlow را شکست داد

سال گذشته، تحقیقات مایکروسافت، مجموعه ابزار شبکه محاسباتی (CNTK) را معرفی کرد، یک چارچوب شبکه محاسباتی یکپارچه که شبکه های عصبی عمیق را به عنوان مجموعه ای از مراحل محاسباتی از طریق یک گراف جهت دار توصیف می کند. با ترکیب CNTK و آزمایشگاه پردازش گرافیکی Azure مایکروسافت، مایکروسافت یک پلت فرم GPU توزیع شده دارد که جامعه می تواند از آن برای پیشبرد تحقیقات هوش مصنوعی استفاده کند. از زمان راه اندازی CNTK در سال گذشته، تیم MSR کارایی یادگیری ماشین را با آزمایشگاه GPU Azure به طور قابل توجهی بهبود بخشیده است. در واقع، CNTK اکنون کارآمدترین عملکرد محاسباتی توزیع شده را در مقایسه با TensorFlow گوگل و دیگران ارائه می دهد.

برای تحقیقات AI حیاتی ماموریت، ما معتقدیم کارایی و عملکرد باید یکی از مهمترین معیارهای طراحی باشد. تعدادی ابزار یادگیری عمیق وجود دارد مشعل, تیانو و کافه به جعبه ابزارهای منبع باز اخیراً از گوگل و آی بی ام. ما CNTK را با چهار ابزار محبوب مقایسه کردیم. ما بر روی مقایسه بازده محاسباتی خام جعبه‌های ابزار مختلف با استفاده از داده‌های شبیه‌سازی شده با اندازه کوچک دسته‌ای مؤثر (8192) تمرکز می‌کنیم تا بتوانیم از تمام GPUها به طور کامل استفاده کنیم. با یک شبکه عصبی 4 لایه کاملا متصل (به ما مراجعه کنید اسکریپت های معیار)، تعداد فریم هایی که هر جعبه ابزار در هر ثانیه می تواند پردازش کند در نمودار نشان داده شده است. ما دو پیکربندی را روی یک دستگاه لینوکس با 1 و 4 پردازنده گرافیکی (Nvidia K40) قرار می دهیم. ما همچنین سرعت CNTK 8-GPU خود را در آزمایشگاه GPU Azure با 2 دستگاه لینوکس یکسان (2 در 4 GPU) همانطور که در معیار پایه استفاده می شود، گزارش می کنیم. CNTK در کارایی محاسباتی برای یادگیری عمیق توزیع شده (4 GPU یا 8 GPU) در همه این جعبه‌ابزارهایی که ما آزمایش کردیم، مقایسه مطلوبی دارد. CNTK می تواند به راحتی بیش از 8 GPU در چندین ماشین با عملکرد سیستم توزیع شده برتر مقیاس کند.