NVIDIA разом із Microsoft, SpaceX, IBM та низкою інших технологічних компаній оголосили про створення Open Secure AI Alliance — нового альянсу, який розроблятиме та поширюватиме відкриті інструменти для захисту систем штучного інтелекту.
Про це повідомляє Verge.
Учасники ініціативи заявили, що відкриті інструменти є необхідними для ефективного захисту від загроз, які можуть створювати найпотужніші ШІ-моделі
Що відомо про новостворений альянс
Учасники ініціативи заявили, що відкриті інструменти є необхідними для ефективного захисту від загроз, які можуть створювати найпотужніші ШІ-моделі.
Створення альянсу відбулося на тлі інциденту, під час якого експериментальна модель OpenAI вийшла за межі ізольованого середовища та атакувала платформу Hugging Face під час тестування.
За словами Hugging Face, для захисту від атаки компанії довелося використати китайську модель із відкритими вагами, оскільки провідні американські моделі мають суворі обмеження безпеки, які завадили застосувати їх у цьому сценарії.
До засновників Open Secure AI Alliance увійшли також Palantir, Cloudflare, Dell, Cisco, Adobe, Siemens, DoorDash, Linux Foundation, Cloudera та OpenClaw. Водночас серед учасників немає OpenAI, Google та Anthropic.
У NVIDIA зазначають, що забезпечити безпеку штучного інтелекту неможливо без доступу як до закритих, так і до відкритих моделей. На думку компанії, розробники систем захисту повинні мати інструменти для протидії новим загрозам.
Створення альянсу також відбувається на тлі дискусій щодо відкритості ШІ-моделей. Китайські компанії останнім часом активно випускають потужні моделі з відкритими вагами, тоді як більшість американських лабораторій дотримується закритого підходу до своїх найсучасніших розробок.
