Компанія Anthropic вважає, що розробники штучного інтелекту мають заздалегідь узгодити механізм уповільнення або тимчасової зупинки розвитку ШІ-систем. Це буде потрібно, якщо вони почнуть вдосконалювати себе швидше, ніж суспільство зможе їх контролювати.
Про це повідомляє Reuters.
У Anthropic попереджають, що поява систем, здатних самостійно створювати власні вдосконалені версії, може стати одним із найважливіших технологічних проривів в історії.
Водночас така здатність може підвищити ризик втрати людиною контролю над штучним інтелектом.
Ризики в розробці ШІ
Anthropic заявила, що потенційна пауза в розвитку ШІ-моделей має бути скоординованою між кількома великими лабораторіями.
Компанія пропонує заздалегідь визначити:
- умови, за яких може бути запроваджене уповільнення або тимчасова зупинка розробки;
- критерії для відновлення роботи;
- механізми контролю та нагляду за виконанням таких домовленостей.
У компанії наголосили, що одностороння пауза з боку одного розробника матиме обмежений ефект і не покращить загального рівня безпеки.
Як приклад швидкого розвитку ШІ-систем Anthropic навела власний досвід. Станом на травень понад 80% коду, який додавався до кодової бази компанії, було написано її моделлю Claude.
У компанії вважають, що зі зростанням здатності моделей створювати програмне забезпечення особливого значення набувають механізми моніторингу, безпеки та контролю їхньої поведінки.
У найближчі місяці компанія також проведе консультації за участю політиків, науковців, громадських організацій та інших ШІ-розробників.
Серед тем для обговорення — ризики самовдосконалення штучного інтелекту та створення міжнародних механізмів координації у сфері безпеки ШІ.
