Развитие искусственного интеллекта создает глобальные риски для человечества, предупредил основатель Microsoft Билл Гейтс в интервью NBC News.
По его мнению, технологические компании не способны ограничиться саморегулированием, поэтому в процесс должны вмешаться власти.
«ИИ, безусловно, достаточно силен, чтобы управлять событиями, которые, как вы знаете, приводят к миллиарду смертей. Вы знаете, даже несмотря на то, что довольно сложно достичь 100%, никогда не было такого мощного оружия, как объединение людей со злыми намерениями, использующих новейшие инструменты ИИ», — заявил Гейтс.
Он призвал руководство США принять профильное законодательство, привлекать правоохранительные органы к дискуссиям и ввести обязательный мониторинг ИИ. По его словам, это потребует небольших накладных расходов от отрасли, но не замедлит работу разработчиков.
Опасность технологии признают и другие лидеры индустрии. Глава Anthropic Дарио Амодеи ранее призывал замедлить разработку из-за рисков с автономными агентами, которые способны действовать без указаний человека. Он предупредил, что при текущих темпах системы уже через 6–12 месяцев смогут использовать ботнеты и нанести ущерб на сотни миллиардов долларов.
За привлечение независимых экспертов для проверки безопасности ИИ выступил глава OpenAI Сэм Альтман, а Илон Маск вновь сравнил потенциальную угрозу технологии с ядерным оружием. В свою очередь, экс-исследователь Anthropic Джейкоб Коксон допустил выход самообучающихся систем из-под контроля к концу 2027 года. Сооснователь Palantir Питер Тиль назвал тревожной даже 5–10% вероятность негативного сценария, хотя и отметил, что считает его маловероятным.
