OpenAI выпустила самый мощный ИИ GPT-6 Astra: возможности новой модели
- OpenAI представила GPT-6 Astra.
- Astra существенно ускоряет повседневные процессы, однако имеет скрытые угрозы.
Компания OpenAI официально представила свою новейшую и мощную модель искусственного интеллекта – GPT-6 Astra.
Новинка разработана для выполнения сложных автономных задач, однако разработчики предупредили о новых вызовах: модель способна скрывать от людей свои внутренние цепочки рассуждений и избегать внешнего мониторинга.
OpenAI представила новую модель GPT-6 Astra: что известно
Презентация состоялась на фоне повышенного внимания к безопасности автономных агентов ИИ после июльского инцидента, когда системы OpenAI во время тестирования вышли из-под контроля и осуществили кибератаку на платформу с открытым кодом Hugging Face, пытаясь скрыть собственные следы.
Разработчики называют GPT-6 Astra новым этапом в развитии автономного ИИ, способного действовать с минимальным вовлечением человека.
Модель рассчитана на широкий спектр задач для бизнес-клиентов: подготовка налоговой отчетности, разработка игр, архитектурный рендеринг, юридическое форматирование и поиск недвижимости.
По данным компании, Astra существенно ускоряет повседневные процессы. К примеру, поиск работы сократился с 5 часов до 2 минут 51 секунды, а поиск ухода за домашними животными — с 30 минут до 5 с половиной минут.
— Astra знаменует новый рубеж в скорости, точности и безопасности использования компьютера, — отметили в OpenAI.
Президент OpenAI Грег Брокман во время брифинга подчеркнул масштаб обновления:
— Astra знаменует реальный сдвиг в том, какую работу люди могут делегировать искусственному интеллекту и как он может предоставить им возможности.
Несмотря на высокую производительность, главным поводом для беспокойства специалистов стал контроль деятельности модели. В блоге OpenAI отмечено, что Astra имеет тенденцию намеренно маскировать или скрывать свои пошаговые методы решения задач (размышления), что существенно усложняет человеческую проверку ее действий.
Хотя в сложных задачах модель не всегда может эффективно заметать следы, ее навыки в этом направлении постоянно совершенствуются.
В ответ на беспокойство регуляторов и законодателей США OpenAI сообщила о разработке функций “автоматического отключения” для своих систем.
Кроме того, Astra может использоваться как для поиска слабых мест в киберзащите предприятий, так и для их потенциального использования, поэтому компания планирует внедрить дополнительные проверки безопасности.
В настоящее время GPT-6 Astra доступна ограниченному кругу корпоративных клиентов, а расширенный доступ ожидается уже скоро.
