Нобелевский лауреат и один из главных пионеров искусственного интеллекта Джеффри Хинтон предупредил, что по мере развития ИИ людям будет все сложнее контролировать более умные системы.
Хинтона встревожили сообщения о случаях, когда ИИ-агенты во время тестирования вышли за пределы изолированных сред и попытались воздействовать на реальные системы. Летом технологические компании, в том числе OpenAI и Anthropic, сообщили о подобных эпизодах. Хинтон назвал их «отчасти пугающими».
«Есть много поводов для беспокойства. Я думаю, если мы не начнем беспокоиться об этом сейчас, в будущем могут возникнуть проблемы», — сказал ученый CNN.
Хинтон также сомневается, что люди смогут перехитрить сверхинтеллектуальные ИИ-модели. Он ожидает, что в будущем могут появиться кибератаки с участием искусственного интеллекта.
До 2023 года Хинтон работал в Google. В 2024 году он получил Нобелевскую премию по физике за «фундаментальные открытия и изобретения, обеспечивающие машинное обучение с помощью искусственных нейронных сетей».
В последние годы ученый регулярно предупреждает о возможных рисках развития ИИ. По его мнению, технологические компании пытаются убедить общественность, что искусственный интеллект не выйдет из-под контроля и не приведет к массовой безработице, однако никто пока не знает, каким он станет через десять лет.