Meta AI каже, що спроби вбивства Трампа не було. Тоді він звинувачує галюцинації

Нещодавно Мету кинули під автобус за неправильне поводження з політичним контентом. Технічний гігант Menlo Park раніше наклеїв ярлик перевірки фактів на справжню фотографію колишнього президента Трампа після його спроби вбити, а його Meta AI невірно заявлено що замаху не було.

Джоел Каплан, віце-президент Meta з глобальної політики, вибачився новий пост у блозі, пояснивши нещодавню помилку штучного інтелекту компанії — де асистент неправильно стверджував, що спроба вбивства колишнього президента Дональда Трампа не відбулася — «галюцинаціям» у відповідях штучного інтелекту.

Він також каже, що Meta AI — як і будь-який інший чат-бот зі штучним інтелектом із вирізанням знань, як-от ChatGPT — не завжди був найточнішим, коли справа доходить до екстрених новин через залежність від застарілих даних. Щоб уникнути помилок щодо таких новин, Meta спочатку заблокувала відповіді на цю тему, але все одно зіткнулася з проблемами з неточностями.

Таке явище в світі штучного інтелекту називається «галюцинаціями». Це випадок, коли мовна модель генерує неправильну або оманливу інформацію, якої не було в її навчальних даних. Це відбувається тому, що штучний інтелект передбачає відповіді на основі шаблонів у даних, на яких він навчався, а не на фактичній точності в реальному часі, тому йому довелося лепетати та формулювати відповіді.

Чат-бот Meta AI, який доступний у Facebook, Instagram і WhatsApp, працює на найновішій основі Модель Лама 3.1 з обмеженням знань у грудні 2023 року. З іншого боку, ChatGPT OpenAI – у жовтні 2023 року.