Nadludzka sztuczna inteligencja Google detronizuje dział Microsoft Research, zwłaszcza w teście czytania ze zrozumieniem
2 minuta. czytać
Opublikowany
Udostępnij ten artykuł
Ulepsz ten przewodnik
Przeczytaj naszą stronę z informacjami, aby dowiedzieć się, jak możesz pomóc MSPoweruser w utrzymaniu zespołu redakcyjnego Czytaj więcej
In artykuł opublikowany w środę na OpenReview.net, Google AI i Toyota Technological Institute of Chicago ogłosiły, że ich nowa sztuczna inteligencja, ALBERT, zajęła pierwsze miejsce w kilku testach czytania ze zrozumieniem w języku naturalnym, zajmując pierwsze miejsce w SQuAD 2.0, GLUE i wysokim wyniku RACE.
W teście General Language Understanding Evaluation (GLUE) ALBERT osiąga wynik 89.4 w teście Stanford Question Answering Dataset (SQUAD) – 92.2 oraz w ReAding Comprehension from English Examinations (RACE) – 89.4%.
Dla SQUAD 2.0 średnia wydajność człowieka wynosi 89.452.
SQuAD2.0 łączy 100,000 1.1 pytań w SQuAD50,000 z ponad 2.0 XNUMX nowych pytań, na które nie ma odpowiedzi, napisanych wrogie przez pracowników społecznościowych, aby wyglądały podobnie do tych, na które można było odpowiedzieć. Aby dobrze radzić sobie z SQuADXNUMX, systemy muszą nie tylko odpowiadać na pytania, kiedy to możliwe, ale także określać, kiedy nie ma odpowiedzi w akapicie i powstrzymywać się od odpowiedzi.
ALBERT „wykorzystuje techniki redukcji parametrów w celu zmniejszenia zużycia pamięci i zwiększenia szybkości treningu BERT”,
„Zaproponowane przez nas metody prowadzą do modeli, które skalują się znacznie lepiej w porównaniu z oryginalnym BERT. Korzystamy również z samonadzorowanej straty, która koncentruje się na modelowaniu spójności między zdaniami i pokazujemy, że konsekwentnie pomaga ona dalszym zadaniom dzięki wprowadzaniu wielu zdań” – czytamy w artykule.
Najlepsze firmy zajmujące się sztuczną inteligencją rywalizują o pierwsze miejsce w konkursie. Pod koniec lipca Facebook AI Research przedstawił RoBERTa, model, który osiągnął najnowocześniejsze wyniki, a w maju badacze Microsoft AI wprowadzili wielozadaniową sieć neuronową (MT-DNN), model, który osiągnął najwyższe noty w 7 z 9 testów porównawczych KLEJU.
Technologia ma oczywiste zastosowania do odczytywania obszernych ilości tekstu w Internecie i dostarczania spójnych odpowiedzi, co jest oczywistą korzyścią dla wyszukiwarek.
Przez VentureBeat
