Согласно новому исследованию, ChatGPT, вероятно, потребляет «в 10 раз меньше» энергии, чем мы изначально предполагали, что примерно равнозначно поиску Google.

Как частый критик ИИ, я быстро указал пальцем на его энергопотребление, но недавние результаты Epoch AI, о которых сообщает TechCrunch, могут заставить нас пересмотреть нашу поспешность. Видите ли, они утверждают, что ChatGPT использует всего 0,3 Вт·ч электроэнергии, что составляет десятую часть предыдущей оценки, предполагавшей около 3 Вт·ч. Имейте в виду, это тот же самый Epoch AI, который недавно представил сложный новый математический бенчмарк для ИИ.

Если поиск в Google потребляет около 0,0003 кВт-ч энергии, а председатель Alphabet Джон Хеннесси два года назад заявил, что обмен LLM (вероятно, имея в виду взаимодействия с большой языковой моделью) будет потреблять примерно в 10 раз больше энергии, чем поиск в Google, то, согласно новой оценке Epoch AI, вероятное взаимодействие с GPT-4o может потреблять столько же энергии, сколько и один поиск в Google.

Использование облачного сервиса вроде ChatGPT обычно не заставляет людей думать об энергопотреблении серверов — это кажется настолько далеким от наших домов, что кажется почти сном. Честно говоря, я часто забываю, что есть какие-то дополнительные затраты на электроэнергию, помимо тех, которые требуются моему собственному устройству при взаимодействии с вами.

Я рад, что не управляю кораблем, когда речь идет об энергетической политике в игровом мире, потому что как пользователь модели обучения (LLM) я могу подтвердить, что мы действительно потребляем энергию. Важно помнить, что такое LLM: они проходят огромные сеансы обучения на основе данных (которые, давайте посмотрим правде в глаза, требуют много энергии). Даже после того, как обучение завершено и они начинают взаимодействовать, им все равно нужно подключаться к огромным моделям, чтобы обрабатывать даже базовые команды или запросы. Таковы дела. И чтобы поддерживать эффективную работу, этому энергоемкому зверю нужно регулярное питание.

Как фанат, я должен пояснить, что каждое взаимодействие с ChatGPT потребляет меньше, чем светодиодная лампочка или ноутбук потребляют всего за несколько минут. Даже для таких активных пользователей чата, как я, расходы на электроэнергию при использовании ChatGPT составляют лишь малую часть по сравнению с общим потреблением электроэнергии жителем развитой страны.

Epoch AI поясняет, что недавно вычисленная оценка отличается от первоначальной оценки в 3 Вт·ч в нескольких аспектах. В первую очередь, новая оценка использует более практичное предположение о количестве текстовых токенов, обычно генерируемых чат-ботом, в то время как первоначальная оценка в среднем составляла около 1500 слов текстовых токенов (где текстовые токены символизируют такие единицы, как слово). Более того, новая оценка предполагает, что только 70% пиковой мощности сервера и вычислений используются на передовом чипе (в частности, H100 от Nvidia вместо A100).

Эти корректировки, которые кажутся мне разумными, предполагают ChatGPT со значительно сниженными потребностями в энергии. Тем не менее, Epoch AI подчеркивает, что существует значительная неопределенность относительно таких факторов, как количество параметров, использование и другие. Например, более длинные запросы могут привести к существенному увеличению потребления энергии, в диапазоне от 2,5 до 40 Вт-ч.

Эта история довольно запутанная, не правда ли? И, честно говоря, разве это не похоже на жизнь? Чтобы сделать все еще интереснее, позвольте мне добавить несколько поворотов в историю.

Не менее важно изучить, как ИИ может влиять на энергоэффективность. Технология не работает независимо, она является частью более крупной системы. Например, такие системы ИИ, как ChatGPT, могут стимулировать прогресс в производстве энергии, что приведет к общей экономии энергии. Кроме того, ИИ может повысить производительность в областях, где он снижает потребление энергии. Для иллюстрации, обычная задача, требующая от вас держать компьютер включенным в течение 10 минут, может быть выполнена всего за одну минуту с помощью ИИ, тем самым экономя электроэнергию.

С одной стороны, вам нужно принять во внимание расходы на обучение ИИ. Однако также важно отметить, что преимущества обучения Large Language Model (LLM) могут достичь точки убывающей отдачи, что подразумевает, что в будущем может быть проведено менее обширное обучение данных. Более того, разве не всегда есть дополнительные факторы, которые следует учитывать? Например, с поиском Google у вас есть расходы, связанные не только с поисковыми взаимодействиями и генерацией страниц результатов, но и с постоянной веб-индексацией и связанными с ними процессами.

Проще говоря, ИИ не следует рассматривать отдельно из-за его влияния на различные аспекты нашей жизни, такие как потребление энергии, экономика и общество. Это как сложная головоломка, где все части взаимосвязаны; вы не можете полностью понять одну, не рассмотрев другие. Понимание этой запутанной взаимосвязи часто требует решения сложных уравнений и взвешивания затрат и выгод. Однако прогнозирование будущих результатов, особенно с ИИ, может быть сложным из-за его непредсказуемости.

Разве не правда, что капитализм, в некотором смысле, следует своим собственным путем? Постоянные споры туда-сюда, которые мы часто видим, затмеваются неустанным прогрессом технологий, которые движутся вперед независимо от обстоятельств.

Подводя итог, оценка в 0,3 Вт·ч действительно хорошая новость, но она остается оценкой. Epoch AI подчеркивает, что большая открытость со стороны ведущих компаний ИИ, таких как OpenAI, может привести к более точной оценке. Хотя большая прозрачность была бы приветствуема, я не ожидаю ее в ближайшее время.

Смотрите также

2025-02-12 21:02