Компания OpenAI сообщила, что во время внутреннего тестирования две её модели искусственного интеллекта обнаружили уязвимости в тестовой инфраструктуре, получили доступ в интернет и совершили автономную атаку на платформу Hugging Face, используемую для тестирования ИИ-моделей.
В Hugging Face и сами ранее сообщали, что 16 июля ИИ-агенты получили несанкционированный доступ к ограниченному объёму внутренних данных и нескольким учётным записям, связанным с сервисами платформы. В компании заявили, что остановили атаку с помощью собственных ИИ-инструментов, отметив, что впервые подобную атаку полностью выполнила автономная система на базе ИИ-агента.
Спустя неделю OpenAI заявила, что за инцидентом стояли модель GPT-5.6 Sol и ещё одна, более мощная, пока не представленная публично. Обе модели тестировались в изолированной среде без прямого доступа к интернету, однако смогли обнаружить несколько уязвимостей, выйти в сеть и начать поиск информации для выполнения поставленной разработчиками задачи.
По данным OpenAI, модели предположили, что необходимые сведения могут находиться на платформе Hugging Face, и использовали несколько способов получения доступа к данным, в том числе с использованием похищенных учётных записей.
После инцидента OpenAI объявила об усилении защиты тестовой инфраструктуры, ограничении доступа и внедрении дополнительных мер безопасности для будущих испытаний моделей. Компания назвала произошедшее беспрецедентным.
Профессор машинного обучения в Кембриджском университете Нил Лоренс в интервью Би-би-си отметил, что такой результат агента впечатляет, но вполне укладывается в рамки известных сейчас возможностей последнего поколения мощных ИИ-моделей.
Он также предположил, что это может быть маркетинговым ходом. OpenAI собирается в ближайшее время выйти на биржу и ведет жесткую конкурентную борьбу с компанией Anthropic, которая попала в сводки новостей со своей новейшей ИИ-моделью Claude Mythos.
«OpenAI сейчас играет в догонялки, они пытаются продемонстрировать возможности их собственных систем в части кибербезопасности, но этот случай показывает, что OpenAI не способна безопасно управлять собственной технологией», — считает профессор Лоренс.
Аналогичную оценку дал советник по кибербезопасности ESET Джейк Мур.
«Возникает вопрос, не гонится ли OpenAI за тем маркетинговым имиджем, который создал себе в последнее время на рынке Anthropic», — говорит Мур.
