Googleova nadljudska umjetna inteligencija svrgnula je s trona Microsoft Research, štoviše, u testu razumijevanja pročitanog

In rad objavljen u srijedu na OpenReview.net, Google AI i Toyotin tehnološki institut iz Chicaga objavili su da je njihov novi AI, ALBERT, zauzeo prvo mjesto u nekoliko testova razumijevanja čitanja na prirodnom jeziku, zauzevši prvo mjesto u SQuAD 2.0, GLUE i visokoj ocjeni izvedbe RACE.

Na referentnoj točki Općeg jezičnog razumijevanja (GLUE), ALBERT postiže rezultat od 89.4, na Stanfordskoj referentnoj točki skupa podataka za odgovore na pitanja (SQUAD), 92.2, a na referentnoj točki Razumijevanje čitanja s ispita iz engleskog (RACE), 89.4%.

Za SQUAD 2.0 prosječna ljudska izvedba je 89.452.

SQuAD2.0 kombinira 100,000 pitanja u SQuAD1.1 s više od 50,000 novih pitanja na koja se ne može odgovoriti, a koja su kontradiktorno napisali crowdworkers kako bi izgledala slično onima na koja se može odgovoriti. Da bi bili dobri na SQuAD2.0, sustavi moraju ne samo odgovarati na pitanja kada je to moguće, već i odrediti kada nijedan odgovor nije podržan odlomkom i suzdržati se od odgovora.

ALBERT "koristi tehnike smanjenja parametara za smanjenje potrošnje memorije i povećanje brzine treninga BERT-a,"

“Naše predložene metode dovode do modela koji se mnogo bolje skaliraju u usporedbi s izvornim BERT-om. Također koristimo samonadzirani gubitak koji se usredotočuje na modeliranje koherencije između rečenica i pokazujemo da dosljedno pomaže nizvodnim zadacima s višerečeničnim unosima,” stoji u radu.

Vrhunske AI tvrtke natječu se za prvo mjesto u natjecanju. Krajem srpnja, Facebook AI Research predstavio je RoBERTa, model koji je postigao najsuvremenije rezultate, au svibnju su Microsoftovi istraživači AI predstavili Multi-Task Deep Neural Network (MT-DNN), model koji je postigao najviše ocjene u 7 od 9 GLUE mjerila.

Tehnologija ima očite primjene za čitanje voluminozne količine teksta na internetu i pružanje koherentnih odgovora, što je očita prednost za tražilice.

Preko VentureBeat