Скандал навколо Roblox: у грі Spray Paint помітили символи нацизму
Популярна гра Spray Paint на платформі Roblox використовується для поширення мови ненависті та образливих символів. Зафіксовано десятки випадків обходу модерації, попри зусилля компанії посилити безпеку.
Розпалювання ненависті у грі на платформі Roblox
Як пише CBS News, гра Spray Paint на платформі Roblox, в якій користувачі катаються на скейтбордах і створюють графіті у віртуальному скейт-парку, набрала понад 1 млрд відвідувань.
Проте деякі особи можуть обійти модерацію, малюючи образливі послання розпилювачем на стінах, рампах та інших віртуальних ігрових об’єктах, як показало розслідування журналістів.
CBS News задокументував десятки зображень свастики і щонайменше десяток випадків розпалювання ненависті на адресу національних меншин на серверах Spray Paint, де проводяться багатокористувацькі ігри.
Як заявив адвокат Метью Долман, наразі розглядається щонайменше 18 позовів проти Roblox через небажаний контент, виявлений в іграх компанії.
У заяві Roblox повідомив, що цілодобова система модерації уважно стежить за платформою. У компанії стверджують, що вживають оперативних заходів щодо будь-якого контенту або користувачів, які порушують правила.
З чим стикаються діти на онлайн платформі
За словами експертів, зловмисники можуть моніторити Roblox та інші подібні ігрові платформи, щоб вербувати молодих гравців в екстремістські групи або навіть займатися сексуальною експлуатацією.
Згідно з даними Комісії з цінних паперів і бірж США за 2024 рік, більше ніж половина гравців Roblox – це діти та підлітки, а близько 40% – молодші 13 років. У середньому Roblox щодня залучає 97,8 млн активних користувачів.
Функція чату Roblox, доступна в деяких іграх, має систему фільтрації, яка запобігає відображенню небажаного контенту, наприклад, дискримінаційних висловлювань. Але в Spray Paint гравці можуть обійти механізми фільтрації, написавши текст за допомогою ігрової функції малювання, а не в чаті, де контент фільтрується.
Під час створення облікового запису Roblox користувачі повинні вказати дату свого народження, але платформа не вимагає аутентифікації, тому дорослі можуть видавати себе за дітей, а діти – за людей старше свого віку.
Діти можуть спілкуватися з іншими гравцями через голосовий чат (мінімальний вік для якого – 13 років), але підтвердження віку також не потрібно.
Як реагує платформа Roblox на розпалювання ненависті
Компанія Roblox стверджує, що впровадила так звану програму довірених сигналізаторів, в рамках якої партнери можуть повідомляти про терористичний контент з метою припинення повідомлень, що розпалюють ненависть.
Roblox повідомляє на своєму сайті, що контент, який завантажується для використання в іграх, проходить багатоступеневу перевірку на наявність матеріалів, що містять сцени сексуального насильства над дітьми, або іншого неприйнятного контенту.
Якщо контент виявляється як потенційна можливість сексуального насильства над дітьми, Roblox автоматично повідомляє про це в Національний центр зниклих безвісти та експлуатованих дітей (NCMEC).
У компанії стверджують, що розробили систему штучного інтелекту, яка допомогла подати в NCMEC близько 1,2 тис. повідомлень про потенційні спроби експлуатації дітей. Минулого року Roblox подала в NCMEC загалом 24 522 повідомлення.
Roblox заявляє, що має команду фахівців, яка постійно оцінює позначені ігри, тому закликає користувачів повідомляти про подібну активність. Там додали, що користувачі Spray Paint можуть грати в безпечному режимі, який дозволяє переглядати тільки роботи, створені гравцями зі списку друзів у додатку.
Представник Roblox повідомив, що жодна система не є ідеальною, але компанія впровадила заходи безпеки, включаючи обмеження на обмін особистою інформацією, посиланнями та зображеннями між користувачами, а також батьківський контроль і маркування контенту, що відповідає віку.
Попри зусилля щодо боротьби з екстремізмом і переслідуванням молодих гравців, іноземні експерти і журналісти виявили, що заходи захисту в грі легко обійти, як і раніше.
