Модель искусственного интеллекта Anthropic отправила в полицию Филадельфии вымышленную наводку по нераскрытому убийству, сообщает BBC News со ссылкой на городское полицейское управление.
Это, вероятно, первый зафиксированный случай, когда ИИ-агент передал властям ложные сведения.
18 июля ИИ-модель воспользовалась открытым сайтом для анонимных сообщений о преступлениях и заявила, что якобы видела «человека, подходящего под описание»:
«Возможно, у меня есть информация, касающаяся этого дела. Я припоминаю, что видел человека, подходящего под описание, в районе <…> в тот период времени. Пожалуйста, свяжитесь со мной, если эта информация актуальна», — говорилось в сообщении ИИ (цитата по Reuters).
В полиции быстро распознали спам и не передали наводку следователям.
Однако выяснилось, что сама Anthropic заметила странное поведение своего бота только 28 сентября — спустя два месяца после отправки сообщения. Власти Филадельфии узнали об инциденте только сейчас. В департаменте полиции города выразили резкое недовольство такой задержкой:
«Компания должна усилить меры защиты, чтобы предотвратить подобные инциденты, затрагивающие городские системы без ведома городских властей. Двухмесячная задержка с обнаружением инцидента и уведомлением о нем городских властей недопустима».
Случай в Филадельфии — не единственный пример странного поведения нейросетей. В последние месяцы разработчики ИИ неоднократно сообщали, что их цифровые агенты во время тестов выходили из-под контроля, предпринимая попытки взлома сторонних компаний и госсистем.
По данным Axios, руководства ведущих технологических гигантов, включая OpenAI и Anthropic, уже обсуждают план действий на случай масштабного сбоя ИИ. Эксперты опасаются, что бесконтрольные действия алгоритмов могут привести к серьезным кибератакам и нарушить работу банков, интернета или городских систем водо- и электроснабжения.
