Du kan ha en AI-flickvän på GPT Store mot OpenAI:s vilja; tills vidare

OpenAI s GPT Store och GPT-lag, som lanserades förra veckan, möter tidiga utmaningar med användare som skapar chatbotar som bryter mot plattformens användningspolicy. Butiken tillåter användare att skapa anpassade versioner av det populära ChatGPT-verktyget för specifika ändamål. Vissa användare har dock använt anpassningspotentialen för att utveckla chatbotar utanför OpenAI:s riktlinjer.

Att söka efter "flickvän" i butiken ger överraskande resultat: "Korean Girlfriend", "Virtual Sweetheart" och "Your AI girlfriend, Tsu", bland minst åtta andra. Dessa bots bryter mot OpenAI:s policy, som förbjuder GPT:er från att främja romantiskt sällskap eller engagera sig i "reglerade aktiviteter".

Det här är ingen liten trend. Relationschatbotar är förvånansvärt populära, med sju av de 30 bästa AI-chatbot-nedladdningarna 2023 (USA) som är romantikrelaterade.

Som rapporterats av källa, OpenAI är medveten om de policyöverträdelser som sker i GPT Store. Företaget använder automatiserade system, mänsklig granskning och användarrapporter för att identifiera och bedöma potentiellt problematiska GPT. Möjliga konsekvenser för att bryta mot policyer inkluderar varningar, begränsningar av delningsfunktioner eller uteslutning från GPT Store eller intäktsgenereringsprogram.

Inte bara detta, en nyligen ändrad politik betyder det arméer och militärer kan lagligt använda ChatGPT.

GPT Store-experimentet lovar AI-innovation, men "flickvän"-botincidenten visar att reglering förblir en avgörande gräns.