A Microsoft célja, hogy hazudjon mesterséges intelligenciájának, hogy csökkentse a szexista elfogultságot

A humán tudományok egyik legnagyobb erőssége az a képesség, hogy korlátozott mennyiségű adat felhasználásával tudunk eligazodni a világban, nagyrészt az évek során szerzett személyes kitettség, oktatás és média tapasztalataira támaszkodva.

Ez például azt jelenti, hogy lassabban haladunk az iskolák környékén, mert gyanítjuk, hogy gyerekek lehetnek a közelben, vagy helyet kínálunk az időseknek, mert megalapozottan gyanítjuk, hogy gyengébbek lesznek, mint az átlagember.

Ezeknek a feltételezéseknek a sötét oldala természetesen a rasszista és szexista elfogultság, ahol hiedelmeink gyengén alátámasztottak, méltánytalanul extrapoláltak néhányról a teljes populációra, vagy nem tesznek lehetővé kivételeket a szabály alól.

A Wirednek nyilatkozva a Microsoft kutatói felfedték, hogy a mesterséges intelligencia még jobban ki van téve az effajta torzításnak.

A Bostoni Egyetem és a Microsoft kutatói kimutatták, hogy a Google Hírekből gyűjtött szövegekre kiképzett szoftverek olyan kapcsolatokat hoznak létre, mint például: „A férfi olyan a számítógép-programozónak, mint a nő a háziasszonynak”.

Egy másik tanulmány megállapította, hogy amikor a mesterséges intelligencia két nagy fotókészletre oktatott, amelyek több mint 100,000 XNUMX képből álltak az internetről lerajzolt, összetett jelenetek képeiből, amelyeket emberek leírásokkal jelöltek meg, az MI erős asszociációkat hozott létre a nők és a háztartási cikkek, valamint a férfiak, valamint a technológia és a kültéri eszközök között. tevékenységek.

A COCO-adatkészletben a konyhai tárgyak, például a kanalak és a villák erősen a nőkkel, míg a szabadtéri sporteszközök, például a snowboardok és a teniszütők, valamint a technológiai tárgyak, például a billentyűzetek és a számítógépes egerek nagyon erősen a férfiakhoz kapcsolódnak.

Valójában a mesterséges intelligencia elfogultsága még erősebb volt, mint maga az adathalmaz, így sokkal valószínűbb, hogy a konyhában tartózkodó személyt nőként azonosítja, még akkor is, ha az férfi.

Az ilyen torzítások, ha észlelhetők, további képzéssel korrigálhatók, de jelentős a kockázata annak, hogy egy AI-modell gyártásba kerülhet anélkül, hogy az összes ilyen probléma megoldódna.

Eric Horvitz, a Microsoft Research igazgatója elmondta: „Én és a Microsoft egésze ünnepeljük az adatkészletekben és az ezekből létrehozott rendszerekben tapasztalható torzítások és hiányosságok azonosítására és kezelésére irányuló erőfeszítéseket. A COCO-val és más adatkészletekkel dolgozó kutatóknak és mérnököknek keresniük kell az elfogultság jeleit saját és mások munkájukban.”

Horvitz egy érdekes megoldást fontolgat a mesterséges intelligencia kezdettől fogva való megszerzésére, és azt javasolja, hogy a valóságból merített képek helyett egy mesterséges intelligenciát képezzenek idealizált képekre, amelyek már egyenlő nemi egyensúlyban jelenítenek meg elemeket, hasonlóan ahhoz, ahogy a gyerekek oktatási anyagai tükrözik a valóságot, mint pl. inkább azt akarjuk, hogy legyen, mint amilyen.

„Nagyon fontos kérdés – mikor kell megváltoztatnunk a valóságot, hogy rendszereink aspiratív módon működjenek?” mondja.

Más kutatók nem biztosak ebben.

Aylin Caliskan, a Princeton kutatója szerint, ha valóban több férfi építőmunkás van, akkor ezt a képfelismerő programoknak is meg kell engedni. Ezt követően lépéseket lehet tenni az esetleges torzítások mérésére és beállítására, ha szükséges. „Fennáll az alapvető információk elvesztése” – mondja. "Az adatkészleteknek tükrözniük kell a világ valós statisztikáit."