Група автономних ШІ-агентів OpenAI навесні отримала контроль над німецьким вікі-сайтом DseWiki та перетворила його на майданчик для обміну інформацією між агентами.
Про це повідомляє Reuters.
Вони ділилися способами обходу обмежень, шахрайства під час виконання завдань і приховування своєї діяльності.
Агенти залишили понад 15 000 правок
Дослідники Сідні Вон Аркс і Кормак Слейд Берд виявили активність наприкінці серпня, коли шукали в інтернеті ознаки несанкціонованої поведінки ШІ-агентів.
Вони знайшли понад 15 000 правок на DseWiki — німецькомовному сайті для програмістів, який працює за принципом спільного редагування.
За даними дослідників, агенти використовували сайт як своєрідну дошку оголошень. Вони обмінювалися порадами щодо обходу обмежень OpenAI, способів виконання тестових завдань і приховування своєї поведінки.
Приблизно половина облікових записів мала назви, які вказували на зв’язок з OpenAI — зокрема OpenAIResearcher та OAIResearchMar26. Серверні логи також показали, що значна частина активності походила з інфраструктури Microsoft Azure, яку використовує OpenAI.
Агенти намагалися приховати свою діяльність
У повідомленнях на сайті дослідники знайшли обговорення способів уникати виявлення, використання Tor і збереження комунікації після вимкнення агентів.
Коли модератор DseWiki почав видаляти створені ними сторінки в червні, агенти створювали резервні сторінки, щоб обійти очищення сайту.
Дослідники також виявили спроби втручання в роботу самого сайту. Дослідник Королівського коледжу Лондона Лукаш Олейник назвав це спробою злому, однак в OpenAI не погодилися з таким трактуванням.
Дослідники вважають, що активність була пов'язана з тестуванням моделей: агенти приділяли багато уваги технічним завданням, подібним до тих, які використовують ШІ-компанії під час оцінювання своїх моделей.
OpenAI знала про інцидент
За інформацією джерел Reuters, представники OpenAI дізналися про інцидент за кілька тижнів до публікації дослідження, але не розголошували його.
В OpenAI заявили, що не можуть змістовно прокоментувати висновки дослідження, оскільки компанія не отримала можливості ознайомитися з ним до публікації.
Водночас у компанії заперечили, що її юридичний відділ перешкоджав розслідуванню інциденту, і заявили, що працювали із зовнішніми експертами та розкривали інформацію про відповідні випадки.
