Förstapersonsskjutare som Call of Duty är något ökända för toxiciteten i deras lobbyer och röstchatt. Undersökningar kallar franchisens fanskara den mest negativa i spelbranschen; en fejd mellan två spelare ledde en gång till att en specialstyrka kallades in. Activision har försökt att bekämpa detta beteende i flera år, och en del av lösningen kan ha att göra med artificiell intelligens.
Activision har samarbetat med Modulate för att få "röstchattmoderering i spelet" till sina spel. Ett nytt modereringssystem som använder artificiell intelligens-teknologi kallat ToxMod kommer att fungera för att upptäcka beteenden som diskriminering och trakasserier i realtid.
ToxMods första betatestning i Nordamerika börjar idag. Den är aktiv i Call of Duty: Modern Warfare II och Call of Duty: Warzone. Den "fullständiga världsomspännande releasen" (den inkluderar inte Asien, som det står i pressmeddelandet) kommer att äga rum den 10 november med releasen av Call of Duty: Modern Warfare III, den nya delen av franchisen i år.
Modulates pressmeddelande går inte in så mycket i detalj om exakt hur ToxMod fungerar. På webbplats företaget noterar att verktyget "modererar röstchatt för att flagga dåligt beteende, analyserar nyanserna i varje konversation för att identifiera toxicitet och tillåter moderatorer att reagera snabbt på varje incident genom att tillhandahålla relevant och korrekt sammanhang." I en intervju nyligen sa företagets VD att verktyget syftar till att gå längre än enkel transkription. Det tar också hänsyn till faktorer som spelarens känslor och volym för att skilja mellan illvilliga och humoristiska kommentarer.
Det är värt att notera att verktyget (åtminstone för nu) inte kommer att vidta åtgärder mot spelare baserat på dess data, utan bara skickar rapporter till Activision-moderatorer. Mänskligt engagemang kommer sannolikt att förbli ett viktigt skydd, eftersom forskning har visat att taligenkänningssystem kan uppvisa partiskhet i hur de reagerar på användare med olika rasidentiteter och accenter.
Läs också: