Una de las grandes luchas de la industria del videojuego es eliminar las malas praxis y los malos comportamientos. Hace unos días Microsoft dio a conocer todo el camino que han seguido para evitar el hacking en Xbox. Ahora, un informe ha revelado que el uso de dos herramientas basadas en IA han dado como resultado el baneo de hasta 20.000 jugadores tóxicos. Este experimento realizado en Counter-Strike: Global Offensive ha permitido erradicar a estos jugadores de la comunidad.
Más concretamente han sido herramientas como FACEIT, que ha colaborado con Google Cloud y Jigsaw para llevar a cabo un experimento que ha servido para vigilar el comportamiento y lenguaje de los usuarios en partidas multijugador. A lo largo de las semanas, la IA ha ido aprendiendo de las conductas de los jugadores, detectando los comportamientos tóxicos. Entre los registros obtenidos, solo en el primer mes y medio, se habían detectado del orden de 7 millones de mensajes considerados tóxicos. Esto había derivado en 90.000 advertencias y 20.000 baneos.
El resultado final se ha dado a conocer ahora, donde se confirma que el uso de una IA, gestionada por FACEIT y Google Cloud, ha servido para banear un total de 20.000 jugadores tóxicos. A partir de ese análisis realizado en agosto, se ha conseguido reducir la toxicidad en un 20% entre agosto y septiembre, con esta IA en uso. Ahora, según indican, el número de jugadores que emite algún contenido que puede catalogarse de tóxico es del 8%.
Es evidente que dejar a una IA al mando de este tipo de vigilancia puede conllevar un fracaso importante si no se gestiona correctamente. De ahí, que de esa cantidad ingente de mensajes que podían considerarse tóxicos, el número de advertencias es mucho más reducido. Ha habido un proceso de aprendizaje que ha permitido ir mediando en muchos aspectos que han permitido aprender a esta IA a valorar realmente qué mensajes son tóxicos, cuales merecían ser apercibidos y quienes sancionados.
Ejemplo del mensaje de advertencia emitido por Minerva
Esta prueba ha sido catalogada de un éxito y el uso de esta IA podría empezar a aplicarse en otros muchos juegos. Se ha dado a conocer como Minerva, y podría ser el terror de esos jugadores que no saben comportarse en las partidas multijugador.
