Je kunt tegen de wil van OpenAI een AI-vriendin hebben in de GPT Store; voor nu

OpenAI's GPT-winkel en GPT-teams, die vorige week werd gelanceerd, wordt geconfronteerd met vroege uitdagingen waarbij gebruikers chatbots maken die het gebruiksbeleid van het platform schenden. In de winkel kunnen gebruikers voor specifieke doeleinden aangepaste versies van de populaire ChatGPT-tool maken. Sommige gebruikers hebben het aanpassingspotentieel echter gebruikt om chatbots te ontwikkelen die buiten de richtlijnen van OpenAI vallen.

Zoeken naar 'vriendin' in de winkel levert verrassende resultaten op: 'Koreaanse vriendin', 'Virtuele lieverd' en 'Je AI-vriendin, Tsu', naast minstens acht andere. Deze bots schenden het beleid van OpenAI, dat GPT’s verbiedt om romantisch gezelschap te koesteren of deel te nemen aan ‘gereguleerde activiteiten’.

Dit is geen kleine trend. Relatiechatbots zijn verrassend populair, waarbij zeven van de top 30 AI-chatbotdownloads in 2023 (VS) verband houden met romantiek.

Gerapporteerd door (bron), OpenAI is op de hoogte van de beleidsschendingen die plaatsvinden in de GPT Store. Het bedrijf maakt gebruik van geautomatiseerde systemen, menselijke beoordeling en gebruikersrapporten om potentieel problematische GPT's te identificeren en beoordelen. Mogelijke gevolgen voor het overtreden van het beleid zijn onder meer waarschuwingen, beperkingen op de deelfunctionaliteiten of uitsluiting van de GPT Store of programma's voor het genereren van inkomsten.

Niet alleen dit, een recente verandering in het beleid betekent dat ook legers en legers kunnen ChatGPT legaal gebruiken.

Het GPT Store-experiment is veelbelovend voor AI-innovatie, maar het ‘vriendin’-botincident laat zien dat regulering een cruciale grens blijft.