Страх перед суперрозумним штучним інтелектом змушує студентів Гарварду та Массачусетського технологічного інституту кидати навчання.
AGI – загальний штучний інтелект, який може виконувати багато з тих самих завдань, що й людина, – може з’явитися протягом десятиліття. Студенти, в тому числі елітних університетів, вже зараз кидають навчання, аби працювати над тим, щоб не дати йому обернутися проти людства.
Студенти стурбовані розвитком AGI
Еліс Блер, яка у 2023 році вступила до Массачусетського технологічного інституту, взяла академічну відпустку, побоюючись, що поява AGI, здатного виконувати різні завдання не гірше за людей, може приректи людство на загибель.
– Я була стурбована тим, що можу не дожити до закінчення університету через AGI. Я думаю, що в більшості сценаріїв через те, як ми працюємо над створенням AGI, ми отримаємо вимирання людства, – сказала Блер з Берклі, штат Каліфорнія.
Зараз вона працює технічним автором в Center for AI Safety, некомерційній організації, що займається дослідженнями в області безпеки ШІ, де допомагає писати інформаційні бюлетені та наукові статті. За словами Блер, вона не планує повертатися до Массачусетського технологічного інституту.
Блер – не єдина студентка, яка побоюється потенційно руйнівного впливу ШІ на майбутнє людства. Згідно з доповіддю, підготовленою на замовлення Держдепу США у 2024 році, ризик “вимирання” можливий, враховуючи швидкість розвитку ШІ. Водночас чимало дослідників не погоджуються з цим твердженням.
– Вимирання людства видається дуже малоймовірним. Але робота над безпекою ШІ є благородною справою, – сказав Forbes професор Нью-Йоркського університету Гері Маркус, який вивчає перетин психології та ШІ.
Наразі сфера безпеки ШІ та її обіцянки запобігти найгіршим наслідкам спонукають молодих людей кидати навчання.
Восени минулого року Адам Кауфман, студент факультету фізики та інформатики, покинув Гарвардський університет, щоб працювати у Redwood Research, некомерційній організації, яка вивчає оманливі системи штучного інтелекту, що можуть діяти всупереч інтересам людини.
– Я дуже стурбований ризиками і вважаю, що найважливіше, над чим потрібно працювати, – це їх зменшення. Також я просто вважаю, що це дуже цікаво. Я працюю з найрозумнішими людьми, яких коли-небудь зустрічав, над надважливими проблемами, – сказав Кауфман.
Його брат, сусід по кімнаті та дівчина також покинули Гарвард зі схожих причин. Зараз вони втрьох працюють в OpenAI.
Інші студенти бояться AGI через те, що він може зруйнувати їхню кар’єру ще до того, як вона розпочнеться. Половина з опитаних 326 студентів Гарварду турбуються про вплив ШІ на їхні перспективи працевлаштування.
Деякі компанії вже наймають менше стажерів і випускників, оскільки ШІ здатний виконувати їхні завдання. Інші проводять масові звільнення. Генеральний директор Anthropic Даріо Амодей попередив, що штучний інтелект може ліквідувати половину всіх посад для початківців і спричинити зростання безробіття до 20% у найближчі кілька років.
Студенти бояться, що ця зміна різко прискориться з появою AGI, хоча коли це може статися, залишається предметом дискусій. Гендиректор OpenAI Сем Альтман вважає, що AGI буде розроблено до 2029 року, а гендиректор Google DeepMind Деміс Хассабіс прогнозує, що це відбудеться в найближчі п’ять-десять років.
