Какие шаги предпринимает OpenAI, чтобы ограничить использование инструментов ИИ в политических кампаниях?

Решение OpenAI внедрить инструменты для борьбы с дезинформацией накануне выборов в различных странах является ответом на потенциальное неправомерное использование ее технологий, таких как ChatGPT и DALL-E 3, в политических кампаниях. Компания обеспокоена риском дезинформации и дезинформации, вызванной искусственным интеллектом, которые подрывают демократический процесс, особенно в период выборов.

Один ключевой аспект OpenAIСтратегия компании состоит в том, чтобы ограничить использование своих технологий для политических кампаний и лоббирования до тех пор, пока не станет известно больше о потенциальном влиянии персонализированного убеждения.

Компания признает необходимость понимания эффективности своих инструментов и активно работает над решениями, обеспечивающими ответственное использование. Сюда входит разработка инструментов, обеспечивающих надежную атрибуцию текста, созданного ChatGPT, и позволяющих пользователям определять, было ли изображение создано с помощью DALL-E 3.

OpenAI планирует внедрить цифровые учетные данные Коалиции за происхождение и подлинность контента, чтобы усовершенствовать методы идентификации и отслеживания цифрового контента. Таким образом, OpenAI стремится устранить опасения по поводу подлинности контента, созданного с использованием моделей искусственного интеллекта.

Компания также предпринимает шаги для того, чтобы ее модели, такие как DALL-E 3, имели «поручни», предотвращающие создание изображений реальных людей, включая политических кандидатов.

Разработка и внедрение инструментов для борьбы с дезинформацией представляют собой постоянные усилия по смягчению негативного воздействия передовых технологий искусственного интеллекта на общество и демократические процессы.

Больше здесь.