Ny Microsoft bot faktiskt designad för sexiga chattar

Microsoft har inte haft en enorm framgång med att förhindra att deras chatbots skadas, vilket kan eller kanske inte förklarar varför deras nya bot är designad från grunden för att erbjuda sexuella tjänster.

Botten är en del av Project Intercept och samtalar via sms med kunder som lockas av onlineannonser för sexuella tjänster, om ämnen som ålder, kropp, fetischtjänster och prissättning och när den får dem att erkänna en avsikt att köpa sex levererar en sträng varning för den skada detta kan orsaka andra.

Varningen kan variera beroende på samtalet, om till exempel en potentiell köpare uttrycker intresse för någon minderårig men generellt lyder: "Att köpa sex från någon är olagligt och kan orsaka allvarlig långvarig skada för offret, samt ytterligare cykeln av människohandel. Detaljer om denna incident kommer att granskas ytterligare och du kan komma att kontaktas av polisen för förhör.”

Boten skapades som en del av ett filantropiskt initiativ vars ledande partner är Seattle Against Slavery, och syftet är att minska efterfrågan på sexarbetare och incitamenten för kriminella att tvinga människor till sexhandel. Seattle Against Slavery arbetar med motsvarigheter i 21 andra amerikanska städer inklusive Boston och Houston för att distribuera boten mer brett.

"Om brottsbekämpande myndigheter utför stick i en stad kan de få några dussin personer, men vi vet att det måste finnas tusentals och åter tusentals killar där ute som vill köpa sex", säger Robert Beiser, verkställande direktör för Seattle Against Slavery. "Att slösa bort sin tid och leverera ett avskräckande budskap kan förändra deras perspektiv på vad de gör."

Dominique Roe-Sepowitz, chef för Arizona State Universitys Office of Sex Trafficking Intervention Research, säger att de kan hjälpa till att utöka räckvidden för insatser mot människohandel. Forskning i Phoenix har visat att i genomsnitt en enda sexannons online lockar 63 potentiella köpare. "Det finns inte tillräckligt med detektiver i världen för att matcha storleken på denna marknad", säger Roe-Sepowitz.

Boten skapades av samma Microsoft-team som de som skapade PhotoDNA, som automatiskt upptäcker och rapporterar bilder av utnyttjande av barn, och som nu används av mer än 70 företag och organisationer, inklusive Facebook och Twitter, och är utformad för att hjälpa icke-statliga organisationer att skala deras befintliga ansträngningar utöver vad den faktiska mänskliga personalen kan åstadkomma. Hittills har chatboten utbytt 14,000 1,000 meddelanden med nästan XNUMX XNUMX personer som svarat på de planterade annonserna. I ungefär hälften av dessa fall hörde den tillräckligt för att leverera ett varningsmeddelande.

"Det hjälper att killarna som köper sex inte är särskilt uppmärksamma på människan i andra änden av telefonen", säger Beiser, från Seattle Against Slavery.

Det är inte känt hur effektiv tekniken kommer att vara i det långa loppet, med forskning i Phoenix som visar att när detektiver i Phoenix använde falska annonser för att överraska människor som ville köpa sex, ringde nästan hälften av de som ringde upp som kontaktades av en polis senare en ny falsk annons. De nya verktygen kommer dock att tillåta grupper att testa olika budskap och tillvägagångssätt i stor skala och bedöma vilka som är mest effektiva.

"Förhoppningen är att få ner den här aktiviteten och skydda många människor", säger Beiser.