OpenAI đang thực hiện những bước nào để hạn chế việc sử dụng các công cụ AI cho các chiến dịch chính trị?

Quyết định của OpenAI giới thiệu các công cụ chống lại thông tin sai lệch trước các cuộc bầu cử ở nhiều quốc gia khác nhau là một phản ứng trước nguy cơ lạm dụng công nghệ của OpenAI, chẳng hạn như ChatGPT và DALL-E 3, cho các chiến dịch chính trị. Công ty lo ngại về nguy cơ thông tin sai lệch và thông tin sai lệch do AI điều khiển làm suy yếu quá trình dân chủ, đặc biệt là trong thời gian bầu cử.

Một khía cạnh chính của OpenAIChiến lược của họ là hạn chế việc sử dụng công nghệ của mình cho các hoạt động vận động và vận động chính trị cho đến khi biết nhiều hơn về tác động tiềm ẩn của việc thuyết phục cá nhân hóa.

Công ty thừa nhận sự cần thiết phải hiểu rõ tính hiệu quả của các công cụ của mình và đang tích cực nghiên cứu các giải pháp để đảm bảo việc sử dụng có trách nhiệm. Điều này bao gồm việc phát triển các công cụ để cung cấp sự ghi nhận đáng tin cậy cho văn bản do ChatGPT tạo ra và cho phép người dùng phát hiện xem hình ảnh có được tạo bằng DALL-E 3 hay không.

OpenAI có kế hoạch triển khai thông tin xác thực kỹ thuật số của Liên minh Xác thực và Xuất xứ Nội dung để nâng cao các phương pháp xác định và truy tìm nội dung kỹ thuật số. Bằng cách đó, OpenAI nhằm mục đích giải quyết những lo ngại về tính xác thực của nội dung được tạo bằng mô hình AI.

Công ty cũng đang thực hiện các bước để đảm bảo rằng các mẫu máy của mình, như DALL-E 3, có “lan can” để ngăn chặn việc tạo ra hình ảnh của người thật, bao gồm cả các ứng cử viên chính trị.

Việc phát triển và triển khai các công cụ chống lại thông tin sai lệch thể hiện những nỗ lực không ngừng nhằm giảm thiểu tác động tiêu cực của các công nghệ AI tiên tiến đối với xã hội và các quá trình dân chủ.

Hơn tại đây.