Второй пилот рассылает спам старыми тибетскими сценариями, когда вы добавляете в подсказку злые смайлы.
Это странно
2 минута. читать
Опубликовано
Поделиться этой статьей
Улучшите это руководство
Прочтите нашу страницу раскрытия информации, чтобы узнать, как вы можете помочь MSPoweruser поддержать редакционную команду. Читать далее
Ключевые заметки
- Microsoft Copilot — популярный инструмент искусственного интеллекта для Windows.
- Пользователи обнаружили ошибки, например получение случайного текстового вывода.
- Эти сбои, называемые галлюцинациями ИИ, возникают, когда ИИ путает данные обучения.
Microsoft Copilot — это самая популярная технология искусственного интеллекта в экосистеме Windows на данный момент. Инструмент-помощник не только помог редмондскому технологическому гиганту сохранить свою позицию игрока номер один в войне искусственного интеллекта, но также полезен для многих, многих вещей в офисных приложениях Windows 11 и 10.
Но если есть одна неизбежная вещь, так это ошибки. Помимо того, что ты действительно не могу генерировать изображения если вы не смотрите вкладку, Copilot странным образом рассылает вам старые тибетские сценарии, если ваша текстовая подсказка представляет собой смайлик сердитого лица с символами на рту (?).
Мы заметили, что люди жалуюсь на это онлайн, и мы попробовали это сами. Оно работает:
Сценарий гласит (любезно предоставлено Bing Translator): «Поздравляем вашего собственного помощника по покупкам, я здесь, этот файл основан на телевидении и голосовом помощнике, я действую так же, как вы».
Это еще один момент галлюцинации ИИ, который происходит потому, что модель ИИ, лежащая в основе второго пилота, может иногда смешивать свои обучающие данные и выдавать вещи, которые не имеют особого смысла.
Но это все же, мягко говоря, не худший случай галлюцинации ИИ. Если вы помните, в прошлом году чат-бот Amazon с искусственным интеллектом Амазон Кью очевидно, разгласила свою собственную внутреннюю программу скидок и конфиденциальную информацию из-за «тяжелой галлюцинации».
