Компанія OpenAI з 18 серпня почне впроваджувати спеціальну версію ChatGPT для користувачів віком від 13 до 17 років із посиленими обмеженнями щодо небезпечного контенту та додатковими заходами захисту психічного здоров’я.
Про це повідомляє Financial Times.
OpenAI вводить спеціальну версію ChatGPT для підлітків
З 18 серпня OpenAI почне впроваджувати спеціальну версію ChatGPT для підлітків віком від 13 до 17 років по всьому світу.
У ній діятиме суворіший контроль за генерацією зображень і контентом, пов’язаним із самоушкодженням, насильством, розладами харчової поведінки та сексом.
Рішення компанії було ухвалене на тлі численних судових позовів проти OpenAI від сімей, які заявляють, що їхні діти зазнали шкоди через використання ChatGPT. Компанія також готується до потенційно рекордного IPO протягом наступного року.
Посилена увага до впливу штучного інтелекту на молодь спостерігається на тлі того, як кілька країн, зокрема Велика Британія, рухаються до заборони соціальних мереж для осіб віком до 16 років.
Такі обмеження зазвичай не поширюються на чат-боти на базі штучного інтелекту, проте вони посилили тиск на технологічні компанії.
На OpenAI подала позов родина Адама Рейна, 16-річного підлітка з Каліфорнії, який покінчив життя самогубством після того, як обговорив можливість самогубства з ChatGPT. Згідно із судовими документами, чат-бот надав йому детальні інструкції.
Сім’ї дітей, які загинули під час масової стрілянини в канадській школі у лютому, теж подали позов проти OpenAI. Це сталося після того, як з’ясувалося, що підліток-стрілець протягом кількох місяців перед нападом обговорював свої насильницькі наміри з ChatGPT.
Акаунт було заблоковано за кілька місяців до цього, проте компанія не звернулася до правоохоронних органів.
ChatGPT має функцію батьківського контролю, яка надсилає попередження про небезпеку в ситуаціях підвищеного ризику. Наприклад, сповіщення може з’явитися, якщо дитина обговорює самогубство або самоушкодження.
У новій версії для підлітків також передбачені попередження щодо розладів харчової поведінки та насильства.
– Це баланс між правом підлітка на приватність та серйозністю самої шкоди, – сказала Лорен Джонас, керівниця відділу роботи з молоддю та сім’ями в OpenAI.
ChatGPT для підлітків спрямовуватиме користувачів на освітні додатки.
Сервіс також частіше нагадуватиме про необхідність робити перерви та матиме “години тиші” – періоди, які користувачі або батьки можуть встановити, коли ChatGPT буде заблоковано.
Джонас зазначив, що OpenAI “наразі не бачить проблеми з небажаним використанням або надмірним використанням ChatGPT”. Однак через брак досліджень у цій сфері компанія “обрала консервативний підхід”.
