Через несколько дней после изменений в «военной и военной» политике OpenAI уже сотрудничает с обороной США.

OpenAI сотрудничает с Министерством обороны США (DoD) по нескольким инициативам в области кибербезопасности. Это знаменует собой отход от предыдущей политики OpenAI, которая прямо запрещала использование ее технологии в военных целях.

Сотрудничество включает в себя совместные усилия по разработке программного обеспечения для кибербезопасности с открытым исходным кодом и участие в конкурсе DARPA AI Cyber ​​Challenge, целью которого является создание программного обеспечения, способного автономно исправлять уязвимости и защищать инфраструктуру от кибератак.

Примечательно, что основной инвестор OpenAI, компания Microsoft, уже имеет несколько контрактов на программное обеспечение с Министерством обороны. Кроме того, к OpenAI присоединились Google и Anthropic для поддержки AI Cyber ​​Challenge.

Помимо сотрудничества с Министерством обороны, OpenAI также уделяет приоритетное внимание усилиям по смягчению потенциального риска. злоупотребление своей технологией на выборах. Компания планирует направить ресурсы на то, чтобы ее генеративные модели искусственного интеллекта не использовались для распространения дезинформации или влияния на политические кампании.

Партнерство с Министерством обороны и последующие изменения в политике поднимают важные вопросы об этических последствиях использования ИИ в военном контексте. Озабоченность вызывает потенциальное вооружение, отсутствие прозрачных границ вокруг допустимого использования и необходимость сбалансировать ответственное развитие ИИ с интересами национальной безопасности.

Может ли ИИ стать следующим ядерным оружием? В каком-то смысле это должно быть запрещено в отношении войны.

Больше здесь.