Mercredi dernier, l’éditeur Activision a annoncé introduire une nouvelle technologie de modération du tchat vocal pour sa franchise Call of Duty. L’outil fonctionnera en temps réel grâce à des outils basés sur l’intelligence artificielle pour signaler directement des comportements toxiques exprimés à l’oral par des joueurs dans leur micro.
À voir aussi sur Konbini
La technologie appelée ToxMod a été créée par la société Modulate et permet de prendre des mesures de sanction (restriction de tchat, bannissement du serveur) lorsque des discours de haine, d’intimidation ou de harcèlement sont repérés. Le combat contre la haine dans les jeux en ligne ne date pas d’hier mais la franchise Call of Duty, du fait de son immense communauté de joueurs, rencontre souvent ce genre de problématiques.
Activision s’est donc tournée vers l’IA pour repérer immédiatement ce qu’ils appellent un “langage nuisible”, à savoir que pour le tchat textuel, il existe déjà des mesures anti-toxicité incluant un filtrage en 14 langues ainsi qu’un système classique de report sur les joueurs dans le jeu.
Selon l’éditeur, plus d’un million de comptes qui violaient le code de conduite auraient été interdits de tchat (“chat restricted”) et l’éditeur précise que 20 % de ces derniers ne récidivent pas.
Le risque du faux positif
Si la mesure semble être plutôt saine pour s’attaquer à l’épineux problème de la haine en ligne sur vocal, les failles des IA sont aussi pointées du doigt. L’année dernière, des universitaires de Stanford ont publié une étude pour montrer les disparités d’analyse dans la reconnaissance vocale entre les différents locuteurs à travers le monde.
En effet, si les anglophones natifs (Américains, Britanniques, Canadiens, etc.) ne sont pas inquiétés, les autres langues ou certains accents prononcés peuvent donner lieu à des mécompréhensions pour l’IA qui s’est formée le plus souvent sur des voix anglaises “académiques”. Le risque est donc que des sanctions malencontreuses puissent tomber sur des joueurs parfaitement innocents mais ne parlant pas anglais.
À ce sujet, Activision précise néanmoins que si la détection se fait en temps réel, la mise en place de sanctions peut nécessiter l’examen supplémentaire par un humain.
ToxMod a en tout cas été lancé en bêta sur les actuels jeux existants Call of Duty: Modern Warfare II et Call of Duty: Warzone 2.0 et seulement en anglais, sur les serveurs US.
