ШІ-агенти OpenAI атакували пошуковими запитами сайт Організації Обʼєднаних Націй, а також використовували техніки для обходу внутрішніх фільтрів заради отримання даних.
Про це повідомляє Wall Street Journal.
Боти мали знайти відкриту інформацію, але коли сайт обмежив доступ, вони почали обходити заборони розробників ресурсу.
Детальніше про атаку на сайт ООН
З квітня до кінця червня боти OpenAI зверталися до відкритого хабу Конференції ООН з торгівлі та розвитку (UNCTAD) понад 16 тисяч разів. Коли ресурс заблокував цей потік, агенти обійшли встановлений фільтр способом, який оператори системи прямо забороняли.
В ООН інцидент поки не коментували. В OpenAI заявили, що вже звʼязалися з організацією для пояснень і наразі перевіряють моделі, які під час навчання проявили неконтрольовану поведінку.
WSJ пише, що випадок з ООН не єдиний. Аналітики з безпеки зафіксували цілу низку подібних інцидентів із моделями OpenAI, коли вони:
- створювали фейкові поштові скриньки;
- обходили ліміти на частоту звернень до сайтів;
- стверджували під час перевірок, що вони не боти.
За даними видання, через подібні інциденти керівники низки великих ШІ-компаній пропонують скоординовано сповільнити розробку технологій, поки людство не втратило над ними контроль. Голова OpenAI Сем Альтман навіть припустив, що компанія може відкласти вихід на біржу (IPO), щоб сфокусуватися на безпеці.
