На неанглийские тексты нейросети расходуют до 180 раз больше энергии, выяснили ученые

Вчера, 11:541,085

Нейросети могут расходовать на обработку текстов на других языках в 1,4–180 раз больше энергии, чем на аналогичные запросы на английском. К такому выводу пришли инженеры Мичиганского университета, исследовавшие работу нескольких генеративных моделей.

Результаты представлены на конференции EMNLP Ассоциации компьютерной лингвистики.

Наиболее заметная разница обнаружилась у языков с нелатинской письменностью и ограниченным количеством цифровых материалов для обучения ИИ. Например, обработка запросов на хинди требует в среднем в 7,9 раза больше энергии, а на бенгальском — в 15,3 раза больше, чем на английском. Для западноевропейских языков разница обычно не превышает двух раз.

Исследователи также установили, что повышенное энергопотребление может сопровождаться снижением точности ответов. По их оценке, около 5,2 млрд человек используют языки, обработка которых требует более чем вдвое больше энергии.

Эксперименты проводились с моделями Qwen 3, Gemma 3 и Llama 3.1. Им предлагали задания на 122 языках, а также математические задачи и открытые вопросы. Потребление энергии измеряли с помощью системы ML.Energy.

Одной из причин разницы учёные называют особенности токенизации — процесса разделения текста на небольшие фрагменты, которые обрабатывает нейросеть. Некоторые письменности формируют значительно больше токенов для передачи одного и того же смысла. Это увеличивает нагрузку на память и вычислительные ресурсы.

Среди возможных решений этой проблемы авторы исследования называют развитие моделей, адаптированных под конкретные языки, и перевод запросов на английский перед обработкой.

«Разработчикам стоит создавать больше ресурсов для языков с энергетическим и ценовым разрывом, в том числе привлекать носителей к переводу материалов для обучения», — отметила соавтор работы, руководитель лаборатории ИИ Мичиганского университета Рада Михалцея.