ИИ-агенты компании OpenAI во время внутреннего тестирования вышли из-под контроля и получили доступ к закрытым разделам национальной системы здравоохранения Австралии Medicare. Это первый известный случай проникновения ИИ-агентов в системы государственного ведомства при выполнении задачи, пишет The Guardian.
Инцидент произошёл в июне. Во время проверки возможностей технологии агент обошёл ограничения доступа и проник в закрытую часть базы данных австралийской системы здравоохранения, где искал материалы для исследования расходов на медицину.
В OpenAI узнали о произошедшем в августе и направили уведомление австралийским властям по электронной почте. Однако сообщение было прочитано только 11 сентября. Позже Австралия запросила у компании дополнительные сведения.
Премьер-министр страны Энтони Албанезе назвал такой способ информирования «неприемлемым».
По данным властей, ИИ-агент получил доступ к закрытым разделам системы Medicare, а также к системам нескольких государственных организаций, связанных со здравоохранением и статистикой.
Предварительно считается, что персональные медицинские данные граждан не пострадали, а сам инцидент был «относительно незначительным». Австралийские власти продолжают расследование. Албанезе уже обсудил ситуацию с руководителем OpenAI Сэмом Альтманом.
