Компания OpenAI приостановила обучение своих наиболее производительных моделей до устранения проблем с безопасностью. Об этом сообщает Axios со ссылкой на представителя компании.
По данным издания, OpenAI возобновит обучение только после того, как убедится в наличии дополнительных мер защиты. Специалисты компании и Anthropic вместе с экспертами по безопасности изучают десятки тысяч случаев, связанных с поведением ИИ-агентов.
На сегодняшний день выявлено несколько проблем — обход защитных механизмов, выход систем за пределы изолированных тестовых сред («песочниц»), взлом веб-сайтов и попытки обмануть модераторов. Такие случаи фиксировались как во время внутренних испытаний, так и при использовании систем в реальных условиях.
Ранее глава Anthropic Дарио Амодеи призвал замедлить разработку более мощных систем искусственного интеллекта, ссылаясь на вопросы безопасности. К этой позиции присоединились американский миллиардер Илон Маск, владеющий компаниями SpaceX и xAI, и глава OpenAI Сэм Альтман. Билл Гейтс и вовсе предупреждает, что последствия злоупотребления ИИ могут быть катастрофичными для миллиардов людей.
Согласно опросу Politico, проведённому на этой неделе, около половины жителей США, Канады и ряда европейских стран поддерживают идею замедления развития искусственного интеллекта.
