Компания Faceit совместно с Google Cloud и Jigsaw создала бота с искусственным интеллектом, который блокирует токсичных игроков в Counter-Strike: Global Offensive.

По заявлению компании, они несколько месяцев «тренировали» бота-администратора Minerva с помощью машинного обучения с целью «минимизировать ложные срабатывания». Если бот находит сообщение, которое в контексте беседы оценивается как «токсичное», то он высылает его автору предупреждение, а все подобные сообщения маркирует как «спам». При этом наказание становится более суровым, если игрок совершает повторное нарушение в течение короткого периода времени. Minerva способен принимать решения всего за несколько секунд после окончания матча и при обнаружении нарушителя сразу высылает ему сообщение с предупреждением или объявлением о бане.

Faceit запустила бота в автоматическом режиме в конце августа. За полтора месяца работы он проанализировал 200 миллионов сообщений, из них 7 миллионов он оценил как токсичные. За это время Minerva «вынес» 90 тысяч предупреждений и 20 тысяч банов за абьюз и спам. По информации компании, количество токсичных сообщений за первый месяц работы снизилось на 20.13% с 2,280,769 в августе до 1,821,723 в сентябре.