GPT-4 для модерації вмісту щойно модернізовано, повідомляє OpenAI

Здійснюючи новаторський крок, OpenAI використав потужність свого останнього чуда ШІ, GPT-4, для модерування вмісту. Це вже давно є критично важливим аспектом підтримки здоров’я та безпеки онлайн-просторів, і можливості GPT-4 налаштовані на революцію в тому, як виконується це важливе завдання.

«Ми використовуємо GPT-4 для розробки політики щодо вмісту та прийняття рішень щодо модерації вмісту, що забезпечує більш узгоджене маркування, швидший цикл зворотного зв’язку для вдосконалення політики та меншу участь модераторів», — каже OpenAI у Оголошення.

У минулому для забезпечення того, щоб веб-сайти та платформи були вільними від шкідливого вмісту, вимагало багато людських зусиль. Людям доводилося переглядати тонни вмісту, щоб знайти та видалити речі, які можуть бути небезпечними чи шкідливими. Це було повільно, а іноді важко для людей, які виконували роботу.

Але зараз все змінюється. GPT-4 — це штучний інтелект, який дуже добре розуміє людську мову. Це як розумний комп’ютер, який може читати та розуміти, що говорять люди в Інтернеті. А найкраща частина? Це може допомогти швидко й послідовно виявляти шкідливий вміст.

Ось як це працює: уявіть, що існують правила (наприклад, вказівки), які визначають, що можна, а що заборонено на веб-сайті. GPT-4 читає ці правила та використовує їх, щоб визначити, чи вміст дотримується правил, чи порушує їх. Це допомагає забезпечити безпеку веб-сайтів і платформ.

«Після написання керівних принципів політики експерти можуть створити золотий набір даних, визначивши невелику кількість прикладів і присвоївши їм мітки відповідно до політики. Потім GPT-4 зчитує політику та призначає мітки тому ж набору даних, не бачачи відповідей», — пояснюється в повідомленні.