AI supraomenesc de la Google detronează Microsoft Research, mai mult, în testul de înțelegere a citirii
2 min. citit
Publicat în data de
Distribuiți acest articol
Îmbunătățiți acest ghid
Citiți pagina noastră de dezvăluire pentru a afla cum puteți ajuta MSPoweruser să susțină echipa editorială Află mai multe
In o lucrare publicată miercuri pe OpenReview.net, Google AI și Toyota Technological Institute of Chicago au anunțat că noul lor AI, ALBERT, a ocupat primul loc la mai multe teste de înțelegere a lecturii în limbaj natural, ocupând primul loc la scorul de performanță SQuAD 2.0, GLUE și RACE.
În ceea ce privește evaluarea generală a înțelegerii lingvistice (GLUE), ALBERT obține un scor de 89.4, la standardul Stanford Question Answering Dataset (SQUAD), 92.2 și la nivelul de înțelegere a citirii din examenele de limba engleză (RACE), 89.4%.
Pentru SQUAD 2.0, performanța umană medie este de 89.452.
SQuAD2.0 combină cele 100,000 de întrebări din SQuAD1.1 cu peste 50,000 de întrebări noi, fără răspuns, scrise în contradictoriu de către crowdworkers, pentru a arăta asemănătoare cu cele cu răspunsuri. Pentru a se descurca bine pe SQuAD2.0, sistemele nu trebuie doar să răspundă la întrebări atunci când este posibil, ci și să determine când niciun răspuns nu este susținut de paragraf și să se abțină de la a răspunde.
ALBERT „folosește tehnici de reducere a parametrilor pentru a reduce consumul de memorie și pentru a crește viteza de antrenament a BERT”.
„Metodele noastre propuse conduc la modele care se scalează mult mai bine în comparație cu BERT original. De asemenea, folosim o pierdere auto-supravegheată care se concentrează pe modelarea coerenței între propoziții și arătăm că ajută în mod constant sarcinile din aval cu intrări cu mai multe propoziții”, se arată în lucrare.
Cele mai bune companii de IA au concurat pentru locul de top într-un concurs. La sfârșitul lunii iulie, Facebook AI Research a introdus RoBERTa, un model care a obținut rezultate de ultimă generație, iar în mai, cercetătorii Microsoft AI au introdus Multi-Task Deep Neural Network (MT-DNN), un model care a obținut note de top în 7 din 9 repere GLUE.
Tehnologia are aplicații evidente pentru citirea cantității voluminoase de text de pe internet și furnizarea de răspunsuri coerente, un beneficiu evident pentru motoarele de căutare.
Prin intermediul Venturebeat
