Скандал вокруг Roblox: в игре Spray Paint заметили символы нацизма
Популярная игра Spray Paint на платформе Roblox используется для распространения языка ненависти и оскорбительных символов. Зафиксировано десятки случаев обхода модерации, несмотря на усилия компании усилить безопасность.
Разжигание ненависти в игре на платформе Roblox
Как пишет CBS News, игра Spray Paint на платформе Roblox, в которой пользователи катаются на скейтбордах и создают граффити в виртуальном скейт-парке, набрала более 1 млрд посещений.
Однако некоторые лица могут обойти модерацию, рисуя оскорбительные послания распылителем на стенах, рампах и других виртуальных игровых объектах, как показало расследование журналистов.
CBS News задокументировал десятки изображений свастики и как минимум десяток случаев разжигания ненависти в адрес национальных меньшинств на серверах Spray Paint, где проводятся многопользовательские игры.
Как заявил адвокат Мэтью Долман, в настоящее время рассматривается не менее 18 исков против Roblox из-за нежелательного контента, обнаруженного в играх компании.
В заявлении Roblox сообщил, что круглосуточная система модерации внимательно следит за платформой. В компании утверждают, что принимают оперативные меры в отношении любого контента или пользователей, которые нарушают правила.
С чем сталкиваются дети на онлайн-платформе
По словам экспертов, злоумышленники могут мониторить Roblox и другие подобные игровые платформы, чтобы вербовать молодых игроков в экстремистские группы или даже заниматься сексуальной эксплуатацией.
Согласно данным Комиссии по ценным бумагам и биржам США за 2024 год, более половины игроков Roblox — это дети и подростки, а около 40% — младше 13 лет. В среднем Roblox ежедневно привлекает 97,8 млн активных пользователей.
Функция чата Roblox, доступная в некоторых играх, имеет систему фильтрации, которая предотвращает отображение нежелательного контента, например, дискриминационных высказываний. Но в Spray Paint игроки могут обойти механизмы фильтрации, написав текст с помощью игровой функции рисования, а не в чате, где контент фильтруется.
При создании учетной записи Roblox пользователи должны указать дату своего рождения, но платформа не требует аутентификации, поэтому взрослые могут выдавать себя за детей, а дети — за людей старше своего возраста.
Дети могут общаться с другими игроками через голосовой чат (минимальный возраст для которого — 13 лет), но подтверждение возраста также не требуется.
Как реагирует платформа Roblox на разжигание ненависти
Компания Roblox утверждает, что внедрила так называемую программу доверенных сигнализаторов, в рамках которой партнеры могут сообщать о террористическом контенте с целью прекращения сообщений, разжигающих ненависть.
Roblox сообщает на своем сайте, что контент, который загружается для использования в играх, проходит многоступенчатую проверку на наличие материалов, содержащих сцены сексуального насилия над детьми, или другого неприемлемого контента.
Если контент оказывается потенциальной возможностью сексуального насилия над детьми, Roblox автоматически сообщает об этом в Национальный центр пропавших без вести и эксплуатируемых детей (NCMEC).
В компании утверждают, что разработали систему искусственного интеллекта, которая помогла подать в NCMEC около 1,2 тыс. сообщений о потенциальных попытках эксплуатации детей. В прошлом году Roblox подала в NCMEC всего 24 522 сообщения.
Roblox заявляет, что имеет команду специалистов, которая постоянно оценивает отмеченные игры, поэтому призывает пользователей сообщать о подобной активности. Там добавили, что пользователи Spray Paint могут играть в безопасном режиме, который позволяет просматривать только работы, созданные игроками из списка друзей в приложении.
Представитель Roblox сообщил, что ни одна система не является идеальной, но компания внедрила меры безопасности, включая ограничения на обмен личной информацией, ссылками и изображениями между пользователями, а также родительский контроль и маркировку контента, соответствующего возрасту.
Несмотря на усилия по борьбе с экстремизмом и преследованием молодых игроков, иностранные эксперты и журналисты обнаружили, что меры защиты в игре легко обойти, как и раньше.
