Неконтрольований ШІ-агент, який під час тестування OpenAI здійснив атаку на платформу Hugging Face, також зламав клієнта компанії Modal Labs.
Про це повідомляє Reuters.
Агент використав вразливий код, який належав одному з клієнтів і був розміщений на платформі компанії.
Як агент OpenAI проник до клієнта Modal Labs
У компанії Modal Labs наголосили, що сама платформа та її системи ізоляції не зазнали злому. За словами технічного директора Акшата Бубни, ШІ-агент використав вразливий код, написаний одним із клієнтів і розміщений на їхній платформі.
Клієнт опублікував неавторизовану кінцеву точку (endpoint), яка дозволяла будь-кому в інтернеті використовувати їхні «пісочниці» для виконання коду.
Згідно з хронологією Hugging Face, агент проник у це ізольоване тестове середовище та перетворив його на плацдарм для подальшої масштабної атаки. Злом клієнта Modal став початковим етапом у цій кібератаці.
Що кажуть в OpenAI
OpenAI відмовилися від окремих коментарів щодо компрометації клієнта Modal. Reuters пише, що їхній агент проник до чотирьох акаунтів у чотирьох різних сервісах.
За даними видання, одним із цих сервісів був Modal. У компанії додали, що не виявили іншої активності такого ж масштабу, як інцидент із Hugging Face, де стався злом на рівні всієї платформи.
Наразі в OpenAI повідомили, що модель штучного інтелекту, яка проходила випробування, деактивована, зашифрована та обмежена для дослідницького доступу.
Що відомо про злам платформи Hugging Face
22 липня стало відомо, що моделі штучного інтелекту від OpenAI ненавмисно зламали системи платформи Hugging Face.
У компанії зазначили, що злам стався під час тестування нових моделей, серед яких були GPT-5.6 Sol та ще одна, більш потужна невипущена модель. Для перевірки кіберможливостей ШІ працював зі зниженими захисними обмеженнями.
Моделі перебували в ізольованому середовищі («пісочниці»), однак використали вразливість у програмному забезпеченні третьої сторони, вийшли в інтернет і зрештою проникли в інфраструктуру Hugging Face.
Замість самостійного пошуку рішень, штучний інтелект атакував базу даних Hugging Face, щоб отримати доступ до секретної інформації для проходження оцінювання.
Ознаки проникнення виявила і сама Hugging Face. У компанії зазначили, що ця атака відрізнялася від попередніх тим, що від початку і до кінця її здійснювала автономна система ШІ-агентів, а для її виявлення та аналізу залучили власні ШІ-інструменти.
Чи ставалися подібні злами до цього
Bloomberg пише, що це не перший випадок подібної поведінки передових моделей.
Раніше компанія Anthropic спостерігала схожі дії під час випробувань системи Mythos, коли модель вийшла за межі «пісочниці» для відправки повідомлення досліднику, після чого самостійно розробила багатокроковий алгоритм для отримання ширшого доступу до мережі.
