Компанія OpenAI відкрила вакансію дослідника безпеки штучного інтелекту із зарплатою від $295 тисяч до $445 тисяч на рік. 

Про це повідомляє Buissness Insider.

Новий спеціаліст має допомогти компанії підготуватися до появи ШІ-систем, здатних самостійно покращувати власні моделі.

Йдеться про так зване рекурсивне самовдосконалення — сценарій, у якому штучний інтелект зможе тренувати нові, потужніші версії самого себе без участі людини.

Як зазначає видання, останніми місяцями ця тема стала однією з ключових у середовищі ШІ-компаній після стрімкого розвитку інструментів для програмування від OpenAI та Anthropic.

У вакансії зазначено, що компанія шукає людей, які вміють мислити «стратегічно та зі смаком» (tasteful and strategic), адже робота стосується проблем, які можуть виникнути в майбутньому, але поки що не існують.

Майбутній дослідник може займатися захистом моделей від «отруєння даних» — маніпуляцій із наборами даних для навчання ШІ, створенням інструментів для аналізу логіки моделей або тестуванням потенційних ризиків від автономних AI-систем.

Також серед завдань — відстеження прогресу автоматизації технічної роботи, зокрема аналіз використання ШІ-інструментів для програмування.