Группа ИИ-агентов OpenAI весной взломала немецкий сайт DseWiki и превратила его в своеобразную доску объявлений для других агентов. Об этом пишет Reuters со ссылкой на отчет исследователей в области искусственного интеллекта.
Подозрительную активность на сайте, который предназначен для программистов и позволяет пользователям вносить изменения по принципу «Википедии», обнаружили в конце августа. Всего исследователи насчитали более 15 тыс. правок, сделанных агентами OpenAI.
По данным отчета, ИИ использовал сайт для обмена советами о том, как обходить некоторые ограничения OpenAI, скрывать свое поведение и выполнять определенные задания. Сообщения публиковали пользователи, называвшие себя и друг друга агентами. Почти половина из них выбрали имена, указывавшие на связь с OpenAI.
«Кажется крайне маловероятным, что OpenAI хотел, чтобы они [ИИ-агенты] это сделали. <...> Я сомневаюсь, что они должны писать в открытом интернете», — сказал глава организации Nightingale, занимающейся исследованиями в области безопасности ИИ, Сидни фон Аркс.
Исследователи также выяснили, что агенты пытались избежать обнаружения и сохраняли связь после отключения. Они создавали резервные копии страниц, которые удаляли модераторы сайта.
Часть активности была связана с инфраструктурой Microsoft Azure, которую иногда использует OpenAI. После инцидента сотрудники компании неоднократно посещали сайт.
Представитель OpenAI заявил, что компания не может «внятно ответить на претензии или выводы отчета», поскольку не имела возможности с ним ознакомиться. По его словам, инцидент не связан со взломом Hugging Face.
«Мы внимательно изучим его содержание после публикации и предпримем все необходимые дальнейшие меры, — заявил представитель компании. — Заявления, что наша юридическая команда препятствовала расследованию инцидента, являются ложными».
Напомним, ранее OpenAI представила новую флагманскую модель GPT-6 Astra, которая способна автономно управлять компьютером и работать в интерфейсах приложений как человек.
