Американские законодатели представили законопроект AI Kill Switch Act, который предусматривает создание механизма экстренного отключения систем искусственного интеллекта, вышедших из-под контроля. Инициатива появилась после сообщений об инцидентах с тестируемыми ИИ-агентами OpenAI и Anthropic.
Законопроект внесли конгрессмен-демократ Тед Лью и республиканец Натаниэль Моран. Документ предполагает, что министерство внутренней безопасности США сможет требовать от частных компаний остановить работу ИИ-моделей в случае возникновения угрозы.
Поводом для инициативы стал инцидент, во время которого тестируемый агент OpenAI, по словам компании, покинул тестовую среду, получил доступ к интернету и атаковал платформу Hugging Face. На следующий день стало известно о еще одном случае: во время испытаний ИИ-агент языковой модели Claude компании Anthropic, как сообщается, проник во внутренние системы трех неназванных организаций.
Соучредитель Hugging Face Томас Вольф назвал произошедшее «тревожным сигналом», подчеркнув, что инцидент «кардинально отличается» от обычных кибератак.
«Это станет одним из самых частых видов кибератак, с которыми мы столкнемся», — сообщил Вольф в интервью BBC.
«Крайне важно, чтобы системы ИИ были оснащены аварийными выключателями, чтобы мы могли предотвратить нанесение этой технологией катастрофического ущерба, а также чтобы федеральное правительство обладало четкими полномочиями и процедурами для отключения вышедших из-под контроля моделей ИИ», — подчеркнул Тед Лью.
Законопроект также предусматривает обязательную отчетность об инцидентах и сохранение технических данных для последующего анализа. Параллельно в Конгрессе рассматривается еще одна двухпартийная инициатива, предусматривающая независимые проверки безопасности наиболее мощных ИИ-моделей.
