Microsofts teknologi tar sikte på å gi innsikt i hvordan nevrale nettverk tar sine beslutninger
1 min. lese
Publisert på
Del denne artikkelen
Forbedre denne veiledningen
Les vår avsløringsside for å finne ut hvordan du kan hjelpe MSPoweruser opprettholde redaksjonen Les mer
Viktige merknader
- Microsofts patent foreslår et verktøy for å visualisere beslutningsprosessen for dyplæringsmodeller innen bildegjenkjenning og visuell AI.
- Verktøyet tar sikte på å forbedre åpenheten og adressere bekymringer om potensielle skjevheter og feil i disse modellene.
- Denne utviklingen reflekterer en bredere bransjetrend mot forklarbar AI, som potensielt kan føre til økt tillit og ansvarlig utvikling av AI-systemer.
Microsoft har søkt patent på et verktøy for å forbedre forståelsen av dyplæringsmodeller som brukes i bildegjenkjenning og visuell AI.
Disse komplekse modellene, som ofte består av mange lag, kan analysere data og ta nøyaktige beslutninger, men deres interne funksjoner forblir stort sett uklare. Denne mangelen på åpenhet kan vekke bekymring for potensielle skjevheter og feil i modellens utdata.
Microsofts foreslåtte verktøy løser dette problemet ved å generere "saliency maps" som visuelt representerer hvordan modellen fokuserer på ulike deler av et input-bilde når den bestemmer seg. Denne visuelle hjelpen kan hjelpe utviklere med å identifisere spesifikke innflytelsesregioner, potensielt hjelpe til med feilidentifikasjon og modellforbedring og til slutt fremme tillit til AI-systemer.
Med enkle ord, Microsofts verktøy lager et "varmekart" som viser hvilke deler av bildet AI fokuserer mest på når de tar sin beslutning. Dette hjelper utviklere å forstå hvorfor AI-en tok et bestemt valg, fikse eventuelle feil og til slutt gjøre AI-en mer pålitelig.
Denne utviklingen er en del av en økende trend innen teknologibransjen. Selskaper som Oracle, Intel og Boeing har også innlevert patenter for forklarbare AI-verktøy, og fremhever et bredere skifte mot mer transparente og ansvarlige AI-systemer.
Mer her..
