Технологія Microsoft має на меті надати розуміння того, як нейронні мережі приймають свої рішення
1 хв. читати
Опубліковано
Поділитися цією статтею
Удосконалити цей посібник
Прочитайте нашу сторінку розкриття інформації, щоб дізнатися, як ви можете допомогти MSPoweruser підтримувати редакційну команду Читати далі
Основні нотатки
- Патент Microsoft пропонує інструмент для візуалізації процесу прийняття рішень у моделях глибокого навчання в розпізнаванні зображень і візуальному штучному інтелекті.
- Інструмент має на меті покращити прозорість і вирішити проблеми щодо потенційних упереджень і помилок у цих моделях.
- Цей розвиток відображає ширшу галузеву тенденцію до зрозумілого штучного інтелекту, що потенційно призведе до підвищення довіри та відповідального розвитку систем штучного інтелекту.
Корпорація Майкрософт подала патент на інструмент для підвищення зрозумілості моделей глибокого навчання, які використовуються в розпізнаванні зображень і візуальному штучному інтелекті.
Ці складні моделі, які часто складаються з багатьох шарів, можуть аналізувати дані та приймати точні рішення, але їхня внутрішня робота залишається в основному незрозумілою. Цей брак прозорості може викликати занепокоєння щодо потенційних упереджень і помилок у результатах моделі.
Запропонований Microsoft інструмент вирішує цю проблему, створюючи «карти помітності», які візуально представляють, як модель фокусується на різних частинах вхідного зображення під час прийняття рішення. Ця візуальна допомога може допомогти розробникам визначити конкретні регіони впливу, потенційно сприяючи виявленню помилок і вдосконаленню моделі та, зрештою, зміцненню довіри до систем ШІ.
Простими словами, інструмент Microsoft створює «теплову карту», яка показує, на яких частинах зображення ШІ зосереджується найбільше, коли приймає рішення. Це допомагає розробникам зрозуміти, чому ШІ зробив певний вибір, виправити будь-які помилки та, зрештою, зробити ШІ більш надійним.
Ця розробка є частиною зростаючої тенденції в індустрії технологій. Такі компанії, як Oracle, Intel і Boeing, також подали заявки на патенти на зрозумілі інструменти ШІ, підкреслюючи ширший перехід до більш прозорих і підзвітних систем ШІ.
більше тут.
