هوش مصنوعی مافوق بشری گوگل، تحقیقات مایکروسافت را در آزمون درک مطلب، از قدرت خارج کرد

In مقاله ای که چهارشنبه در OpenReview.net منتشر شدگوگل AI و موسسه فناوری تویوتا شیکاگو اعلام کردند که هوش مصنوعی جدید آنها، ALBERT، در چندین آزمون درک مطلب زبان طبیعی رتبه اول را به خود اختصاص داده است و رتبه اول را در SQuAD 2.0، GLUE و امتیاز عملکرد RACE بالا کسب کرده است.

در معیار ارزیابی درک عمومی زبان (GLUE)، ALBERT به امتیاز 89.4، در معیار مجموعه داده پاسخ به سؤالات استنفورد (SQUAD)، 92.2، و در معیار درک خواندن از آزمون‌های انگلیسی (RACE)، 89.4 درصد می‌رسد.

میانگین عملکرد انسان برای SQUAD 2.0 89.452 است.

SQuAD2.0 100,000 سوال در SQuAD1.1 را با بیش از 50,000 سوال جدید و غیرقابل پاسخ که به صورت خصمانه توسط crowdworkers نوشته شده اند ترکیب می کند تا شبیه به سوالات قابل پاسخ باشد. برای عملکرد خوب در SQuAD2.0، سیستم ها نه تنها باید در صورت امکان به سؤالات پاسخ دهند، بلکه باید تعیین کنند که چه زمانی هیچ پاسخی توسط پاراگراف پشتیبانی نمی شود و از پاسخ دادن خودداری کنند.

ALBERT از تکنیک های کاهش پارامتر برای کاهش مصرف حافظه و افزایش سرعت تمرین BERT استفاده می کند.

روش‌های پیشنهادی ما به مدل‌هایی منجر می‌شود که در مقایسه با BERT اصلی مقیاس بسیار بهتری دارند. ما همچنین از یک فقدان خود نظارتی استفاده می‌کنیم که بر مدل‌سازی انسجام بین جملات تمرکز دارد و نشان می‌دهد که به طور مداوم به وظایف پایین‌دستی با ورودی‌های چند جمله‌ای کمک می‌کند.»

شرکت های برتر هوش مصنوعی در یک مسابقه برای کسب جایگاه برتر رقابت می کنند. در اواخر ژوئیه، تحقیقات هوش مصنوعی فیس بوک RoBERTa را معرفی کرد، مدلی که به نتایج پیشرفته دست یافت، و در ماه مه، محققان هوش مصنوعی مایکروسافت شبکه عصبی عمیق چند وظیفه ای (MT-DNN) را معرفی کردند، مدلی که رتبه های برتر را در این زمینه کسب کرد. 7 از 9 معیار GLUE.

این فناوری کاربردهای آشکاری برای خواندن حجم وسیع متن در اینترنت و ارائه پاسخ‌های منسجم دارد که یک مزیت آشکار برای موتورهای جستجو است.

از طريق سایت VentureBeat