Microsoft kan snart använda AI för att söka efter giftiga ord i Xbox-partychatt

Uppkomsten av AI är oundviklig. Även ett par månader kan göra en enorm skillnad i AI-utveckling. Det har använts i många områden, och spel är inte immunt mot det. Och nu verkar det som att Microsoft vill använda AI för att söka efter giftiga ord i Xbox-partychatt.

Teknikjätten Redmond delade nyligen sin fjärde Transparentrapport, som beskriver hur den kan använda den senaste AI-tekniken för spel. I tillkännagivandet beskriver Microsoft sin användning av AI tillsammans med mänsklig expertis för att upptäcka och hantera potentiell toxicitet, i enlighet med Responsible AI Standard.

Några av sätten som beskrivs är verktyg som kallas Auto Labeling och Image Pattern Matching. Den första hjälper till att klassificera konversationstext genom att identifiera potentiellt skadliga ord eller fraser. Sedan möjliggör det senare snabbt borttagande av känt skadligt innehåll och identifiering av framväxande giftiga bilder med hjälp av avancerad databas- och bildmatchningsteknik.

För ett tag sedan introducerade den gröna konsolens läger också en nytt strejksystem. Spelare börjar med noll strejker och kan få upp till åtta över sex månader, såsom hatretorik och svordomar. Strejker leder till avstängningar från sociala funktioner, med allvarliga kränkningar som kan leda till permanenta avstängningar

Microsoft, som äger Xbox, är under press att leverera mer originalinnehåll. Trots många framgångar med de senaste förvärven av Activision och andra spelstudior var Microsoft tvungen stäng några Bethesda-studior. 

An ex-Microsoft-anställd analyserar att nedläggningen av flera Bethesda-studior kan vara kopplad till utmaningar som Game Pass och det nyligen genomförda ABK-avtalet står inför. 

Game Pass, en gång en välsignelse för spelexponering, står nu inför intäktsutmaningar på grund av för många prenumerationer och förändrade spelarintressen. Och med tunga investeringar i dessa förvärv är Xbox under press att leverera avkastning.