OpenAI cho biết GPT-4 để kiểm duyệt nội dung vừa được hiện đại hóa

Trong một động thái đột phá, OpenAI đã khai thác sức mạnh của AI tuyệt vời nhất của họ, GPT-4, để kiểm duyệt nội dung. Từ lâu, đây là một khía cạnh quan trọng trong việc duy trì sức khỏe và sự an toàn của không gian trực tuyến và các khả năng của GPT-4 được thiết lập để cách mạng hóa cách thức thực hiện nhiệm vụ quan trọng này.

OpenAI cho biết: “Chúng tôi sử dụng GPT-4 để phát triển chính sách nội dung và đưa ra các quyết định kiểm duyệt nội dung, cho phép gắn nhãn nhất quán hơn, vòng phản hồi nhanh hơn để tinh chỉnh chính sách và ít sự tham gia của người kiểm duyệt con người hơn”. bản thông báo.

Trước đây, việc đảm bảo rằng các trang web và nền tảng không có nội dung độc hại đòi hỏi rất nhiều nỗ lực của con người. Mọi người đã phải xem qua rất nhiều nội dung để tìm và xóa những thứ có thể gây nguy hiểm hoặc gây tổn thương. Điều này diễn ra chậm chạp và đôi khi gây khó khăn cho những người thực hiện công việc.

Nhưng bây giờ, mọi thứ đang thay đổi. GPT-4 là một AI hiểu ngôn ngữ con người rất tốt. Nó giống như có một chiếc máy tính thông minh có thể đọc và hiểu những gì mọi người đang nói trên mạng. Và phần tốt nhất? Nó có thể giúp phát hiện nội dung có hại một cách nhanh chóng và nhất quán.

Đây là cách nó hoạt động: Hãy tưởng tượng có các quy tắc (như hướng dẫn) cho biết những gì được phép và không được phép trên một trang web. GPT-4 đọc các quy tắc này và sử dụng chúng để tìm hiểu xem nội dung có tuân theo quy tắc hay vi phạm quy tắc hay không. Điều này giúp giữ an toàn cho các trang web và nền tảng.

“Sau khi một hướng dẫn chính sách được viết ra, các chuyên gia chính sách có thể tạo ra một bộ dữ liệu vàng bằng cách xác định một số lượng nhỏ các ví dụ và gán nhãn cho chúng theo chính sách. Sau đó, GPT-4 đọc chính sách và gán nhãn cho cùng một tập dữ liệu mà không thấy câu trả lời,” thông báo giải thích.