OpenAI не виключає, що її майбутня модель штучного інтелекту Astra може бути здатна самостійно виконувати складні кібератаки.

Про це повідомляє Reuters.

Через це компанія посилила заходи безпеки та призупинила частину внутрішнього тестування моделі.

Що відомо про можливості моделі Astra

У внутрішніх правилах OpenAI «критичним» вважається рівень, за якого модель може самостійно знаходити та використовувати серйозні вразливості в реальному програмному забезпеченні — так звані zero-day — або проводити складні кібератаки на добре захищені системи без участі людини.

Попередні тести Astra протягом останніх кількох днів, а також оцінки зовнішніх експертів показали, що модель може виконувати дедалі складніші кіберзавдання автономно. В OpenAI заявили, що результатів наразі недостатньо, щоб підтвердити «критичний» рівень можливостей, але компанія вже не може його виключити.

У відповідь OpenAI посилила контроль за Astra та призупинила внутрішні роботи з моделлю, які не відповідають новим вимогам безпеки.

Подальше навчання та тестування Astra відбуватимуться в ізольованому середовищі з обмеженим доступом до мережі та запуском моделі в «пісочниці» — середовищі, яке має не дозволяти їй впливати на зовнішні системи.

Водночас CEO OpenAI Сем Альтман заявив, що компанія продовжує працювати над тим, щоб зробити Astra доступною для широкого кола користувачів. За його словами, OpenAI не вважає правильною стратегією залишати потужні моделі доступними лише для обмеженого кола людей.

OpenAI також окремо наголосила, що Astra не була причетна до злому Hugging Face під час попередніх тестів.