مدل‌های زبان منبع باز DBRX جدید Databricks با ارزش ۱۰ میلیون دلار بالاخره آمدند

Databricks اخیراً اعلام کرده است که اینطور است راه اندازی DBRXمجموعه ای از مدل های هوش مصنوعی مولد آن که اکنون در GitHub و Hugging Face در دسترس است. این از قبل روی توکن های 12T آموزش دیده است، از GLU و GQA استفاده می کند و چندوجهی نیست (نمی تواند تصاویر را اجرا کند).

این مدل دارای دو نسخه است، DBRX Base، بهینه سازی شده برای وظایف مبتنی بر دستورالعمل، و DBRX Instruct، یک مدل از پیش آموزش دیده مناسب برای سفارشی سازی بیشتر. مدل پارامترهای 132B منبع باز است و به زبان انگلیسی موجود است، اگرچه ادعا می‌کند که می‌تواند به فرانسوی، آلمانی و اسپانیایی نیز ترجمه شود.

ناوین رائو، معاون هوش مصنوعی دیتابریکس، در الف TechCrunch مصاحبه ای که این شرکت 10 میلیون دلار و دو ماه برای آموزش مدل ها سرمایه گذاری کرده است. اما نکته مهم این است که اجرای این مدل‌ها به سخت‌افزار سنگینی نیاز دارد، مانند حداقل 4 پردازنده گرافیکی Nvidia H100 یا معادل آن، مجموعاً 320 گیگابایت حافظه، یا یک ابر شخص ثالث با نیازهای کم و بیش مشابه. 

با توجه به آن اطلاعیه مطبوعاتی، DBRX ادعا می کند که می تواند از مدل های منبع باز موجود مانند LLaMA2-70B، GPT-3.5، Mixtral و گروک-1 در مورد چیزهای خاصی مانند ریاضی، منطق و موارد دیگر. می‌توانید آنها را مستقیماً با Databricks Model Serving کار کنید یا آنها را برای نیازهای خاص بیشتر سفارشی کنید زیرا مجوز استفاده از Databricks Open Model License را دارند. 

آنها را می توان مستقیماً در Databricks Model Serving مستقر کرد یا برای اهداف تنظیم دقیق و استنتاج دسته ای استفاده کرد.

می توانید مدل های منبع باز DBRX Databricks را امتحان کنید اینجا کلیک نمایید.