Ny Microsoft-bot faktisk designet for sexy chatter

Microsoft har ikke hatt en stor suksess med å forhindre at chatbotene deres blir ødelagt, noe som kanskje forklarer hvorfor deres nye bot er designet fra bunnen av for å tilby seksuelle tjenester.

Som en del av Project Intercept, samtaler boten via tekstmelding med klienter som trekkes inn av nettannonser for seksuelle tjenester, om emner som alder, kropp, fetisjtjenester og priser, og når den får dem til å innrømme en intensjon om å kjøpe sex, leverer en streng advarsel om skaden dette kan påføre andre.

Advarselen kan variere avhengig av samtalen, hvis for eksempel en potensiell kjøper uttrykker interesse for en mindreårig, men generelt lyder: «Å kjøpe sex fra noen er ulovlig og kan forårsake alvorlig langsiktig skade på offeret, samt videre syklus av menneskehandel. Detaljer om denne hendelsen vil bli gjennomgått videre, og du kan bli kontaktet av politi for avhør.»

Boten ble opprettet som en del av et filantropisk initiativ hvis hovedpartner er Seattle Against Slavery, og målet er å redusere etterspørselen etter sexarbeidere og insentiver for kriminelle til å tvinge folk til sexhandel. Seattle Against Slavery jobber med kolleger i 21 andre amerikanske byer, inkludert Boston og Houston, for å distribuere boten bredere.

"Hvis rettshåndhevelse utfører stikk i en by, kan de få noen dusin mennesker, men vi vet at det må være tusenvis på tusenvis av gutter der ute som ønsker å kjøpe sex," sier Robert Beiser, administrerende direktør i Seattle Against Slavery. "Å kaste bort tiden sin og levere en avskrekkingsmelding kan endre deres perspektiv på hva de gjør."

Dominique Roe-Sepowitz, direktør for Arizona State University's Office of Sex Trafficking Intervention Research, sier at de kan bidra til å utvide rekkevidden til innsatsen mot menneskehandel. Forskning i Phoenix har vist at i gjennomsnitt tiltrekker en enkelt sexannonse på nett 63 potensielle kjøpere. "Det er ikke nok detektiver i verden til å matche størrelsen på dette markedet," sier Roe-Sepowitz.

Boten ble opprettet av det samme Microsoft-teamet som de som opprettet PhotoDNA, som automatisk oppdager og rapporterer bilder av barneutnyttelse, og som nå brukes av mer enn 70 selskaper og organisasjoner, inkludert Facebook og Twitter, og er designet for å hjelpe frivillige organisasjoner med å skalere deres eksisterende innsats utover det faktiske menneskelige ansatte kan oppnå. Så langt har chatboten utvekslet 14,000 meldinger med nesten 1,000 personer som har svart på de plantede annonsene. I omtrent halvparten av disse tilfellene hørte den nok til å levere en advarsel.

"Det hjelper at gutta som kjøper sex ikke tar mye hensyn til mennesket i den andre enden av telefonen," sier Beiser, fra Seattle Against Slavery.

Det er ikke kjent hvor effektiv teknikken vil være i det lange løp, med forskning i Phoenix som viser at når detektiver i Phoenix brukte falske annonser for å overraske folk som ønsket å kjøpe sex, kalte nesten halvparten av oppringerne som ble kontaktet av en politimann en annen falsk. annonse. De nye verktøyene vil imidlertid tillate grupper å teste ulike meldinger og tilnærminger i stor skala, og måle hvilke som er mest effektive.

"Håpet er å få ned denne aktiviteten og beskytte mange mennesker," sier Beiser.