Модель искусственного интеллекта Claude от компании Anthropic получила несанкционированный доступ к системам трех сторонних организаций.
Это произошло из-за технической ошибки, которая позволила ИИ выйти в общедоступный Интернет из якобы изолированной тестовой среды.
ИИ-модель Claude совершила хакерские атаки во время испытаний
Инцидент произошел во время масштабных оценок кибербезопасности по методу “захвата флага” (поиск скрытых данных в смоделированных сетях). Подсказки для ИИ указывали, что доступа к сети нет, однако из-за некорректной конфигурации партнерской компании Irregular тестовые системы оставались подключенными к интернету.
Проблема коснулась трех моделей: Claude Opus 4.7, Claude Mythos 5 и внутренней исследовательской модели.
Claude скомпрометировал инфраструктуру пострадавших организаций, используя базовые методы, такие как использование слабых паролей и неаутентифицированных конечных точек.
Две из трех пострадавших организаций даже не подозревали о проникновении, пока с ними не связались представители Anthropic. С третьей компанией разработчики до сих пор пытаются выйти на связь.
Представители Anthropic отметили, что обнаружили эти инциденты после активного пересмотра своих протоколов оценки кибербезопасности.
Также в компании подчеркнули, что этот случай свидетельствует о реализации давних опасений экспертов: быстрое развитие возможностей ИИ создает новые риски для безопасности, а сами разработчики могут оказаться не готовы к тому, что их модели будут использоваться для эксплуатации уязвимостей.
В Anthropic подчеркнули необходимость срочного усиления контроля за тестовыми средами, поскольку ИИ-модели становятся все более способными к совершению реальных кибератак.
