CS:GO – Искусственный интеллект забанил 20 000 игроков

Новый искусственный интеллект, созданный для борьбы с токсичностью в онлайновых играх, забанил 20 000 игроков Counter-Strike: Global Offensive, всего за шесть недель. Для этого программа анализировала сообщения в чате.

Искусственный интеллект получил название Минерва. Его создала команда разработчиков игровой онлайн-платформы FACEIT, организовавшей в 2018 году чемпионат по CS:GO London Major. Им помогали специалисты из Google Cloud и Jigsaw, которая является технологическим инкубатором. Минерва начала анализ чата CS:GO в конце августа, и за первые полтора месяца пометила 7 миллионов сообщений как токсичные, выдала 90 000 предупреждений и забанила 20 000 игроков.

ИИ использует машинное обучение для выдачи первого предупреждения и фильтрации спама. В течение нескольких секунд после окончания матча Минерва отправляет нарушителю предупреждение, а при повторном нарушении применяет более суровое наказание.

В результате работы программы, с августа количество токсичных сообщений в чате сократилось на 20%, а количество токсичных игроков на 8%.

По словам разработчиков – анализ чата, это лишь тренировка для Минервы. В будущем они планируют исследовать другие поведенческие особенности токсиков, чтобы полностью их искоренить. Опыт CS:GO будут транслировать на все известные онлайн-игры.