Ny Microsoft-bot faktisk designet til sexede chats

Microsoft har ikke haft en stor succes med at forhindre deres chatbots i at blive korrupte, hvilket måske eller måske ikke forklarer, hvorfor deres nye bot er designet fra bunden til at tilbyde seksuelle tjenester.

Som en del af Project Intercept kommunikerer botten via sms med kunder, der tiltrækkes af onlineannoncer for seksuelle tjenester, om emner som alder, krop, fetichtjenester og priser, og når den først får dem til at indrømme en hensigt om at købe sex, leverer en streng advarsel om den skade, dette kan forårsage for andre.

Advarslen kan variere afhængigt af samtalen, hvis for eksempel en potentiel køber udtrykker interesse for en mindreårig, men generelt lyder: "At købe sex fra nogen er ulovligt og kan forårsage alvorlig langsigtet skade for offeret, såvel som yderligere cyklus af menneskehandel. Detaljer om denne hændelse vil blive gennemgået yderligere, og du vil muligvis blive kontaktet af retshåndhævelsen til afhøring."

Botten blev skabt som en del af et filantropisk initiativ, hvis hovedpartner er Seattle Against Slavery, og målet er at reducere efterspørgslen efter sexarbejdere og incitamenterne for kriminelle til at tvinge folk til sexhandel. Seattle Against Slavery arbejder sammen med modparter i 21 andre amerikanske byer, herunder Boston og Houston, for at implementere botten bredere.

"Hvis retshåndhævere udfører stik i en by, kan de få et par dusin mennesker, men vi ved, at der skal være tusinder og atter tusinder af fyre derude, der ønsker at købe sex," siger Robert Beiser, administrerende direktør for Seattle Against Slavery. "At spilde deres tid og levere en afskrækkende besked kan ændre deres perspektiv på, hvad de laver."

Dominique Roe-Sepowitz, direktør for Arizona State University's Office of Sex Trafficking Intervention Research, siger, at de kunne hjælpe med at udvide rækkevidden af ​​indsatsen mod menneskehandel. Forskning i Phoenix har vist, at en enkelt online sexannonce i gennemsnit tiltrækker 63 potentielle købere. "Der er ikke nok detektiver i verden til at matche størrelsen af ​​dette marked," siger Roe-Sepowitz.

Botten blev skabt af det samme Microsoft-team som dem, der skabte PhotoDNA, som automatisk registrerer og rapporterer billeder af børneudnyttelse, og som nu bruges af mere end 70 virksomheder og organisationer, herunder Facebook og Twitter, og er designet til at hjælpe NGO'er med at skalere deres eksisterende indsats ud over, hvad det faktiske menneskelige personale kan udrette. Indtil videre har chatbotten udvekslet 14,000 beskeder med næsten 1,000 personer, der reagerede på de plantede annoncer. I omkring halvdelen af ​​disse tilfælde hørte den nok til at levere en advarselsmeddelelse.

"Det hjælper, at de fyre, der køber sex, ikke er meget opmærksomme på mennesket i den anden ende af telefonen," siger Beiser, fra Seattle Against Slavery.

Det vides ikke, hvor effektiv teknikken vil være i det lange løb, og forskning i Phoenix viser, at når detektiver i Phoenix brugte falske annoncer til at overraske folk, der ville købe sex, kaldte næsten halvdelen af ​​opkalderne, som blev kontaktet af en betjent, senere en anden falsk annonce. De nye værktøjer vil dog give grupper mulighed for at teste forskellige budskaber og tilgange i stor skala og måle, hvilke der er mest effektive.

"Håbet er at få denne aktivitet ned og beskytte en masse mennesker," siger Beiser.