Bạn có thể có bạn gái AI trên GPT Store trái với ý muốn của OpenAI; bây giờ

OpenAI's Cửa hàngGPT và Nhóm GPT, ra mắt vào tuần trước, phải đối mặt với những thách thức ban đầu khi người dùng tạo các chatbot vi phạm chính sách sử dụng của nền tảng. Cửa hàng cho phép người dùng tạo các phiên bản tùy chỉnh của công cụ ChatGPT phổ biến cho các mục đích cụ thể. Tuy nhiên, một số người dùng đã sử dụng khả năng tùy chỉnh để phát triển chatbot ngoài hướng dẫn của OpenAI.

Tìm kiếm “bạn gái” trên cửa hàng mang lại kết quả đáng ngạc nhiên: “Bạn gái Hàn Quốc”, “Người yêu ảo” và “Bạn gái AI của bạn, Tsu” trong số ít nhất tám từ khóa khác. Những bot này vi phạm chính sách của OpenAI, vốn cấm GPT thúc đẩy tình bạn lãng mạn hoặc tham gia vào “các hoạt động được quản lý”.

Đây không phải là một xu hướng nhỏ. Các chatbot về mối quan hệ phổ biến một cách đáng ngạc nhiên, với 30 trong số 2023 lượt tải xuống chatbot AI hàng đầu vào năm XNUMX (Hoa Kỳ) là liên quan đến chuyện tình cảm.

Theo báo cáo của nguồn, OpenAI đã biết về các hành vi vi phạm chính sách xảy ra tại GPT Store. Công ty sử dụng các hệ thống tự động, đánh giá của con người và báo cáo của người dùng để xác định và đánh giá các GPT có khả năng gặp sự cố. Hậu quả có thể xảy ra khi vi phạm chính sách bao gồm cảnh báo, hạn chế về chức năng chia sẻ hoặc bị loại khỏi GPT Store hoặc các chương trình kiếm tiền.

Không chỉ vậy, một sự thay đổi gần đây trong chính sách có nghĩa là quân đội và quân đội có thể sử dụng ChatGPT một cách hợp pháp.

Thử nghiệm GPT Store hứa hẹn mang lại sự đổi mới về AI, nhưng sự cố bot “bạn gái” cho thấy rằng quy định vẫn là một giới hạn quan trọng.