OpenAI ограничит для подростков доступ к опасному контенту в ChatGPT
- OpenAI внедряет специальную версию ChatGPT для подростков в возрасте от 13 до 17 лет.
- Ограничения будут касаться тем самоповреждения, насилия, расстройств пищевого поведения и сексуального контента.
Компания OpenAI с 18 августа начнет внедрять специальную версию ChatGPT для пользователей в возрасте от 13 до 17 лет с усиленными ограничениями в отношении опасного контента и дополнительными мерами защиты психического здоровья.
Об этом сообщает Financial Times.
OpenAI вводит специальную версию ChatGPT для подростков
С 18 августа OpenAI начнет внедрять специальную версию ChatGPT для подростков в возрасте от 13 до 17 лет по всему миру.
В ней будет действовать более строгий контроль за генерацией изображений и контентом, связанным с самоповреждением, насилием, расстройствами пищевого поведения и сексом.
Решение компании было принято на фоне многочисленных судебных исков против OpenAI со стороны семей, которые заявляют, что их дети пострадали из-за использования ChatGPT. Компания также готовится к потенциально рекордному IPO в течение следующего года.
Повышенное внимание к влиянию искусственного интеллекта на молодежь наблюдается на фоне того, как несколько стран, в частности Великобритания, движутся к запрету социальных сетей для лиц младше 16 лет.
Такие ограничения обычно не распространяются на чат-боты на базе искусственного интеллекта, однако они усилили давление на технологические компании.
На OpenAI подала в суд семья Адама Рейна, 16-летнего подростка из Калифорнии, который покончил с собой после того, как обсудил возможность самоубийства с ChatGPT. Согласно судебным документам, чат-бот предоставил ему подробные инструкции.
Семьи детей, погибших во время массовой стрельбы в канадской школе в феврале, также подали иск против OpenAI. Это произошло после того, как выяснилось, что подросток-стрелок в течение нескольких месяцев перед нападением обсуждал свои насильственные намерения с ChatGPT.
Аккаунт был заблокирован за несколько месяцев до этого, однако компания не обратилась в правоохранительные органы.
В ChatGPT есть функция родительского контроля, которая отправляет предупреждения об опасности в ситуациях повышенного риска. Например, уведомление может появиться, если ребенок обсуждает самоубийство или самоповреждение.
В новой версии для подростков также предусмотрены предупреждения о расстройствах пищевого поведения и насилии.
— Это баланс между правом подростка на приватность и серьезностью самого вреда, — сказала Лорен Джонас, руководитель отдела по работе с молодежью и семьями в OpenAI.
ChatGPT для подростков будет направлять пользователей на образовательные приложения.
Сервис также будет чаще напоминать о необходимости делать перерывы и будет иметь “часы тишины” — периоды, которые пользователи или родители могут установить, когда ChatGPT будет заблокирован.
Джонас отметила, что OpenAI “в настоящее время не видит проблемы с нежелательным использованием или чрезмерным использованием ChatGPT”. Однако из-за недостатка исследований в этой сфере компания “выбрала консервативный подход”.
