違背 OpenAI 的意願，你可以在 GPT Store 上擁有一個 AI 女友；目前
2分鐘讀
發表於
分享此文章
改進本指南
重點說明
- 早期人們看到了政策對用戶創建的聊天機器人違反陪伴指南的擔憂。
- 人工智慧伴侶的流行引發了關於孤獨感的潛在利用的爭論。
OpenAI的 GPT商店 和 GPT 團隊上週推出的，面臨著用戶創建違反平台使用政策的聊天機器人的早期挑戰。該商店允許用戶為特定目的創建流行的 ChatGPT 工具的定製版本。然而，一些用戶利用客製化潛力在 OpenAI 指南之外開發聊天機器人。
在商店中搜尋「女朋友」會產生令人驚訝的結果：「韓國女朋友」、「虛擬甜心」和「你的人工智慧女友，Tsu」等至少八個。這些機器人違反了 OpenAI 的政策，該政策禁止 GPT 培養浪漫伴侶或參與「受監管的活動」。
這不是一個小趨勢。關係聊天機器人出乎意料地受歡迎，30 年（美國）下載量排名前 2023 名的人工智慧聊天機器人中有 XNUMX 個與浪漫相關。
所報告的 資源，OpenAI 已意識到 GPT 商店發生的政策違規行為。該公司採用自動化系統、人工審查和用戶報告來識別和評估潛在有問題的 GPT。違反政策可能產生的後果包括警告、共享功能限製或被排除在 GPT 商店或貨幣化計劃之外。
不僅如此，最近政策的改變意味著 軍隊和軍隊可以合法使用ChatGPT.
GPT Store 實驗為人工智慧創新帶來了希望，但「女朋友」機器人事件表明，監管仍然是一個關鍵前沿。
