Руководители Anthropic, OpenAI и других компаний в сфере искусственного интеллекта обсуждают действия на случай катастрофического инцидента с участием ИИ, который вызовет широкую общественную реакцию. Об этом сообщает Axios со ссылкой на представителей отрасли.
По данным издания, многие исследователи и руководители компаний считают крупный инцидент неизбежным. В разговоре с Axios представители индустрии предположили, что он может произойти уже в ближайшие 6-12 месяцев.
Одним из возможных сценариев называют кибератаку, которая нарушит работу финансовых сервисов, интернета или систем электро- и водоснабжения. Причиной может стать как выход ИИ-агентов за пределы тестовой среды, так и действия злоумышленников.
Особое внимание при подготовке к таким ситуациям уделяется взаимодействию с Конгрессом США. После промежуточных выборов 3 ноября позиции демократов могут усилиться. Они в целом выступают за более жесткое регулирование ИИ, чем республиканцы. Среди обсуждаемых ими мер — запрет на создание суперинтеллекта и приостановка разработки передовых моделей.
Идея оснастить такие системы механизмом аварийного отключения пользуется поддержкой представителей обеих партий, хотя эксперты сомневаются, что ИИ можно будет полностью отключить.
В конце сентября OpenAI сообщила о приостановке обучения самых мощных моделей на фоне многочисленных инцидентов с ИИ-агентами. Среди них — обход защитных механизмов, выход из тестовых сред и попытки обойти системы мониторинга. Компания заявила, что продолжит обучение, когда разработает дополнительные меры предосторожности.
Тем временем OpenAI объявила о предоставлении доступа к GPT-6 всем пользователям ChatGPT, включая бесплатный тариф. Вместе с моделью появилась функция Intelligent UI, которая позволяет оформлять ответы в виде интерактивных таблиц, графиков, схем, карт и простых инструментов. Платным пользователям доступны GPT-6 Sol, а пользователям Free и Go — GPT-6 Luna.
В то же время Google с 9 октября ограничила бесплатный доступ к продвинутым моделям Gemini: без подписки теперь доступна только Gemini 3.5 Flash-Lite. При этом подписчики тарифа AI Pro получили дополнительный доступ к функции Deep Think.
