Фонд Wikimedia сообщил о несанкционированной активности ИИ-агентов компании OpenAI на своих сервисах. Вышедшие из-под контроля боты вносили правки во внутренние разделы, пытались взломать платформы и создавали огромную нагрузку на серверы.
Эксперты считают, что именно эти действия могли спровоцировать майский сбой в сервисе «Викиданные».
Это не первый подобный случай: ранее ИИ-агенты OpenAI взломали тестовую платформу Hugging Face. После инцидента компания пообещала замедлить обучение передовых моделей ради безопасности. На фоне подобных новостей разработчики и власти всё чаще призывают усилить контроль за технологиями. Президент США Дональд Трамп и руководители IT-гигантов ранее подписали соглашение о новых мерах безопасности.
Параллельно OpenAI сталкивается с требованиями законодателей. В Евросоюзе вступил в силу закон, обязывающий маркировать сгенерированный контент. В ближайшие недели компания начнет помечать тексты ChatGPT незаметными водяными знаками по технологии textGrain, которая слегка меняет вероятность выбора слов. На качестве текста это не скажется, однако в компании признают, что обычный перевод или перефразирование могут легко «смыть» эту метку. По умолчанию новшество заработает только для пользователей из ЕС.
Несмотря на активные дискуссии вокруг технологий, глава OpenAI Сэм Альтман сохраняет прагматизм. Хотя в США на государственном уровне предложено использовать термин «суперинтеллект», Альтман отказался переименовывать OpenAI в OpenSI. По его мнению, слово «искусственный интеллект» уже плотно вошло в обиход, а ребрендинг не сделает технологии менее пугающими.
