ШІ-модель Claude здійснила хакерські атаки під час випробувань
Модель штучного інтелекту Claude від компанії Anthropic отримала несанкціонований доступ до систем трьох сторонніх організацій.
Це сталося через технічну помилку, яка дозволила ШІ вийти в загальнодоступний інтернет із нібито ізольованого тестового середовища.
ШІ-модель Claude здійснила хакерські атаки під час випробувань
Інцидент трапився під час масштабних оцінок кібербезпеки за методом “захоплення прапора” (пошук прихованих даних у змодельованих мережах). Підказки для ШІ вказували, що доступу до мережі немає, однак через некоректну конфігурацію партнерської компанії Irregular тестові системи залишалися підключеними до інтернету.
Проблема торкнулася трьох моделей: Claude Opus 4.7, Claude Mythos 5 та внутрішньої дослідницької моделі.
Claude скомпрометував інфраструктуру уражених організацій, використовуючи базові методи, такі як використання слабких паролів та неавтентифікованих кінцевих точок.
Дві із трьох постраждалих організацій навіть не підозрювали про проникнення, поки з ними не зв’язалися представники Anthropic. З третьою компанією розробники досі намагаються вийти на зв’язок.
Представники Anthropic зазначили, що виявили ці інциденти після проактивного перегляду наших протоколів оцінки кібербезпеки.
Також у компанії підкреслили, що цей випадок сигналізує про реалізацію давніх побоювань експертів: швидкий розвиток можливостей ШІ створює нові ризики для безпеки, а самі розробники можуть виявитися неготові до того, як їхні моделі користуватимуться вразливостями.
В Anthropic наголосили на необхідності термінового посилення контролю за тестовими середовищами, оскільки ШІ-моделі стають усе більш здатними до виконання реальних кібератак.
