Microsoft utilise l’IA pour aider à identifier le contenu nocif et garantir que la communauté de joueurs reste en sécurité lorsqu’elle joue en ligne.
Utilisation de l’IA pour la sécurité des joueurs
Dans un article de blog pour son Xbox Transparency Report, la société a réitéré ses “avancées dans la promotion de la sécurité des joueurs” et son “engagement envers la transparence”, ainsi que son “approche progressive de l’utilisation de l’IA”.
Deux méthodes spécifiques sont utilisées : l’auto-étiquetage et la correspondance de motifs d’image.
Application de l’IA dans l’identification du contenu nuisible
L’auto-étiquetage utilise l’IA pour identifier les mots ou phrases nuisibles provenant des signalements des joueurs, permettant aux modérateurs de la communauté de trier rapidement les faux signalements et de se concentrer sur les cas les plus critiques.
La correspondance de motifs d’image est également utilisée pour identifier et supprimer rapidement les images nuisibles et toxiques.
Utilisation de l’IA pour l’amélioration de la sécurité
L’utilisation de l’IA fait suite à l’introduction, l’année dernière, d’une nouvelle fonction de signalement vocal, permettant aux joueurs Xbox de capturer des clips vidéo du chat vocal en jeu à soumettre à l’équipe de sécurité Xbox pour examen.
Microsoft indique qu’il a capturé 138 000 enregistrements vocaux depuis le lancement de la fonction. Lorsque ces signalements ont entraîné une sanction, 98 % des joueurs ont amélioré leur comportement et n’ont pas reçu d’autres sanctions.
Lutte contre la toxicité en ligne
Cependant, la toxicité et le sexisme restent répandus dans le chat vocal des jeux. Des exemples comme celui de la streameuse Twitch Taylor Morgan mettent en évidence la nécessité d’améliorer la sécurité des jeux en ligne.
Ces exemples soulignent qu’il reste encore beaucoup à faire pour améliorer la sécurité des jeux en ligne. Bien que Microsoft utilise l’IA de manière positive, il est important de rappeler que l’année dernière, la société a licencié toute son équipe d’éthique et de société de l’IA dans le cadre de 10 000 suppressions d’emplois à travers l’entreprise.
Malgré tout, Microsoft continue de promouvoir les avantages de l’IA. En novembre dernier, la société a annoncé un “partenariat de co-développement pluriannuel” avec Inworld AI pour fournir aux studios de jeux Xbox des outils d’IA tels qu’un copilote de conception et un moteur d’exécution de personnage.
En conclusion, l’utilisation de l’IA par Microsoft pour améliorer la sécurité des joueurs en ligne est une avancée positive, bien que des efforts supplémentaires soient nécessaires pour éliminer la toxicité généralisée dans l’industrie du jeu vidéo.
Source : www.eurogamer.net