A Google emberfeletti mesterséges intelligenciája letaszítja a trónról a Microsoft Research-t a szövegértési tesztben
2 perc olvas
Publikálva
Ossza meg ezt a cikket
Javítsa ezt az útmutatót
Olvassa el közzétételi oldalunkat, hogy megtudja, hogyan segítheti az MSPowerusert a szerkesztői csapat fenntartásában Tovább
In az OpenReview.net-en szerdán megjelent cikk, a Google AI és a chicagói Toyota Technological Institute bejelentette, hogy új mesterséges intelligencia, az ALBERT számos természetes nyelvi szövegértési tesztben az első helyet szerezte meg, és az első helyet szerezte meg a SQuAD 2.0, a GLUE és a magas RACE teljesítmény pontszámban.
A General Language Understanding Evaluation (GLUE) benchmarkon ALBERT 89.4-et, a Stanford Question Answering Dataset (SQUAD) benchmarkon 92.2-t, az Olvasott szövegértés angol vizsgákból (RACE) benchmarkon pedig 89.4%-ot ért el.
A SQUAD 2.0 esetében az átlagos emberi teljesítmény 89.452.
A SQuAD2.0 a SQuAD100,000 1.1 50,000 kérdését ötvözi a több mint 2.0 XNUMX új, megválaszolhatatlan kérdéssel, amelyeket a tömegmunkások egymásnak ellentmondóan írtak, hogy a megválaszolhatóakhoz hasonlítsanak. Ahhoz, hogy jól működjenek az SQuADXNUMX-ban, a rendszereknek nem csak a kérdésekre kell válaszolniuk, ha lehetséges, hanem azt is meg kell határozniuk, ha a bekezdés nem támogatja a választ, és tartózkodniuk kell a válaszadástól.
ALBERT „paramétercsökkentési technikákat használ a memóriafelhasználás csökkentése és a BERT edzési sebességének növelése érdekében”
„A javasolt módszereink olyan modellekhez vezetnek, amelyek sokkal jobban méretezhetők, mint az eredeti BERT. Használunk egy önfelügyelt veszteséget is, amely a mondatok közötti koherencia modellezésére összpontosít, és megmutatja, hogy többmondatos bemenetekkel következetesen segíti a downstream feladatokat” – olvasható a lapban.
A legjobb mesterségesintelligencia-vállalatok versengtek a legjobb helyért egy versenyen. Július végén a Facebook AI Research bemutatta a RoBERTa modellt, amely a legkorszerűbb eredményeket érte el, májusban pedig a Microsoft AI kutatói bemutatták a Multi-Task Deep Neural Network (MT-DNN) modellt, amely csúcspontokat ért el 7/9 GLUE benchmark.
A technológiának nyilvánvaló alkalmazásai vannak az interneten található nagy mennyiségű szöveg olvasására és koherens válaszok biztosítására, ami nyilvánvaló előny a keresőmotorok számára.
Keresztül VentureBeat
