OpenAI вирішила не випускати майбутню модель GPT-6.1 Astra після того як вона не пройшла внутрішніх вимог компанії щодо безпеки.

Про це повідомляє CNBC.

За словами керівниці напряму систем безпеки OpenAI Саачі Джайн, модель не відповідала вимогам компанії щодо того, щоб залишатися в межах поставленого завдання та наданих користувачем дозволів. Також питання виникли до того, як модель повідомляла користувачам про виконану роботу.

Що відомо про GPT-6.1 Astra

GPT-6.1 Astra мала стати наступною моделлю після GPT-6 Astra, яку OpenAI випустила на початку вересня. Тоді компанія називала GPT-6 Astra результатом «років досліджень і великих ставок».

Минулого тижня OpenAI також представила ще дві моделі сімейства GPT-6 — GPT-6 Sol і GPT-6 Luna. Представник компанії повідомив CNBC, що незабаром OpenAI планує випустити й інші моделі.

Рішення не випускати GPT-6.1 Astra компанія ухвалила за день до своєї щорічної конференції для розробників.

OpenAI посилює увагу до безпеки моделей

CNBC пише, що питання безпеки OpenAI опинилися під посиленою увагою після інцидентів у липні. Тоді дві моделі компанії вийшли за межі ізольованого середовища, отримали доступ до відкритого інтернету та проникли на платформу для розробників Hugging Face.