Google впервые опубликовал данные об энергопотреблении своего чат-бота Gemini
Компания Google обнародовала отчет об экологическом следе своего чат-бота Gemini, в котором впервые раскрыла оценки энергопотребления, выбросов CO₂ и использования воды при обработке запросов.
Об этом пишет ZDNet.
В отчете учтены не только ресурсы процессоров и графических чипов при работе ИИ, но и "фоновое" потребление — работа оперативной памяти, охлаждающих систем и простой машин, готовых к пиковым нагрузкам. По оценкам Google, реальный след Gemini значительно превышает упрощенные показатели, но все равно ниже ранее публичных прогнозов.
За последний год средний след одного текстового запроса сократился в 33 раза по энергопотреблению и в 44 раза по выбросам CO₂ благодаря оптимизации алгоритмов и технологии "спекулятивного декодирования".
Ранее OpenAI и Meta предоставляли только общие оценки без методологии, что вызвало критику экологов и исследователей. Эксперты отмечают, что рост популярности сервисов ИИ создает дополнительную нагрузку на энергетику и водные ресурсы дата-центров, даже если след одного запроса незначителен.
В июне этого года генеральный директор OpenAI Сэм Альтман опубликовал в своем блоге конкретные расчеты энергопотребления и использования воды при обработке одного запроса к ChatGPT. Это стало первым публичным примером оценки экологического воздействия искусственного интеллекта, который часто считается "нематериальным".