В испанской Валенсии правоохранители открыли дело против 17-летнего подростка, которого подозревают в использовании искусственного интеллекта для создания и распространения фейковых обнаженных изображений своих одноклассниц.
По данным следствия, он публиковал контент в соцсетях и, вероятно, планировал продавать изображения через специально созданный сайт.
Как обнаружили подозреваемого
Расследование началось еще в декабре 2023 года после заявления одной из школьниц. Она сообщила об аккаунте в соцсети, созданном от ее имени, где было опубликовано смонтированное с помощью ИИ видео. Впоследствии девушка нашла еще одну фейковую страницу, а также веб-сайт, на котором рекламировались подобные материалы.
По данным полиции, указанные аккаунты содержали изображения нескольких несовершеннолетних девушек. Фото были изменены таким образом, чтобы люди на них выглядели полностью обнаженными. С похожими жалобами обратились еще 15 школьниц.
Полиция проанализировала соцсети, связалась с хостинг-компаниями и проверила сайт с ИИ-сервисами для модификации фото. Установить подозреваемого помогли IP-адреса и электронные почты, связанные с аккаунтами. Все следы вели к дому одного из одноклассников потерпевших.
Инциденты с использованием ИИ в Испании
Это не первый подобный случай в стране. В 2023 году в регионе Эстремадура 15 школьников получили по году условно за использование ИИ для создания и распространения фейковых обнаженных фото своих одноклассниц. Они брали лица девушек из соцсетей и накладывали на изображения обнаженных тел. Эти фото затем распространяли в WhatsApp-группах.
Наказание также включало прохождение курсов по гендерному равенству и ответственному пользованию технологиями.
Правозащитная организация Malvaluna, которая представляла интересы потерпевших в этом деле, заявила, что подобные инциденты должны заставить общество задуматься о необходимости полового воспитания в школах. В организации подчеркнули, что формирование представлений о сексуальности через порнографию только способствует распространению сексизма и насилия.
В марте 2024 года испанское правительство сообщило, что работает над законом, который признает уголовными преступлениями онлайн-грумминг и создание сексуального контента с помощью ИИ без согласия. Закон должен усилить защиту детей и молодежи в интернете.
