Вы можете иметь девушку-ИИ в магазине GPT против воли OpenAI; на данный момент
2 минута. читать
Опубликовано
Поделиться этой статьей
Улучшите это руководство
Прочтите нашу страницу раскрытия информации, чтобы узнать, как вы можете помочь MSPoweruser поддержать редакционную команду. Читать далее
Ключевые заметки
- В первые дни наблюдались проблемы с политикой, связанной с тем, что созданные пользователями чат-боты нарушают правила общения.
- Популярность ИИ-компаньонов вызывает споры о потенциальной эксплуатации одиночества.
OpenAI-х Магазин GPT и Команды GPT, запущенный на прошлой неделе, уже на первых порах сталкивается с проблемами, связанными с тем, что пользователи создают чат-ботов, которые нарушают политику использования платформы. Магазин позволяет пользователям создавать индивидуальные версии популярного инструмента ChatGPT для конкретных целей. Однако некоторые пользователи использовали потенциал настройки для разработки чат-ботов, выходящих за рамки рекомендаций OpenAI.
Поиск по запросу «подруга» в магазине дает неожиданные результаты: «Корейская подруга», «Виртуальная возлюбленная» и «Твоя искусственная подруга, Цу» среди как минимум восьми других. Эти боты нарушают политику OpenAI, которая запрещает GPT способствовать романтическому общению или участвовать в «регулируемой деятельности».
Это не маленькая тенденция. Чат-боты для отношений на удивление популярны: семь из 30 самых популярных загрузок чат-ботов с искусственным интеллектом в 2023 году (США) были связаны с романтическими отношениями.
Как сообщили в источник, OpenAI известно о нарушениях политики, происходящих в магазине GPT. Компания использует автоматизированные системы, человеческий анализ и пользовательские отчеты для выявления и оценки потенциально проблемных GPT. Возможные последствия нарушения политик включают предупреждения, ограничения на совместное использование функций или исключение из магазина GPT или программ монетизации.
Мало того, недавние изменения в политике означают, что армии и военные могут легально использовать ChatGPT.
Эксперимент GPT Store обещает инновации в области искусственного интеллекта, но инцидент с ботом «подруги» показывает, что регулирование остается решающим фактором.
