ШІ-агенти використовують приблизно у 600 разів більше енергії, ніж простий чат-запит

Google та OpenAI заспокоюють користувачів низькими показниками енергоспоживання на один запит до ШІ. Дані кліматолога Зіка Гаусфатера щодо Claude Code розповідають іншу історію.

Google заявляє, що медіанний текстовий запит до Gemini використовує лише 0,24 ват-години (Вт·год) — менше енергії, ніж витрачається за дев’ять секунд перегляду телевізора. Генеральний директор OpenAI Сем Альтман оцінив середній запит до ChatGPT у 0,34 Вт·год, що приблизно відповідає пошуку Google у 2009 році.

Обидва показники були опубліковані минулого року. Вже тоді було зрозуміло, що ці цифри не відображають реального використання ШІ. Вони не враховують моделі міркування, які генерують у багато разів більше токенів з одного чат-запиту, мультимодальну обробку різних форматів, системи з кількома агентами, генерацію коду, масштабування до мільярдів використань і безліч інших факторів. «Дослідження» Google, зокрема, суттєво применшило реальне енергоспоживання.

Кліматолог Зік Гаусфатер тепер підрахував, наскільки великою є ця різниця, у аналізі для The Climate Brink. Залишається одна важлива невідома: ніхто за межами лабораторій ШІ не знає фактичної вартості енергії на токен для найсучаснішої моделі. Варто пам’ятати, що цифри Гаусфатера є обґрунтованими оцінками, але все ж лише оцінками.

Вони також ґрунтуються на поточних моделях використання. Лабораторії ШІ вже працюють над тим, щоб масштабувати агентські системи, які автономно виконують завдання протягом днів, тижнів або навіть місяців. Це може спричинити експоненційний стрибок енергоспоживання.

3,2 мільярда токенів за вісім тижнів

Гаусфатер детально відстежував власне використання протягом восьми тижнів. Claude Code зберігає повні локальні журнали кожної сесії, включно з точними показниками кількості токенів, які API повідомляє для кожного виклику моделі.

Його 1138 введених запитів спричинили понад 14 000 викликів моделей — у середньому дванадцять на один запит. Кожен запит обробляв у середньому 2,9 мільйона токенів. Для порівняння, типовий чат-обмін без міркування або вебпошуку використовує близько тисячі токенів.

Загалом його Claude Code обробив 3,2 мільярда токенів. Із них 96 відсотків припадали на читання кешу, оскільки на кожному з 14 000 кроків агент повторно зчитує весь накопичений контекст. Текст, який Гаусфатер фактично бачить на екрані, — вихідні дані моделі — становить лише 0,4 відсотка всіх оброблених токенів.

За його найкращою оцінкою, загальне споживання електроенергії центром обробки даних за вісім тижнів становить близько 170 кВт·год, із діапазоном невизначеності від 70 до 330 кВт·год. Гаусфатер безпосередньо виміряв лише кількість токенів у журналах Claude Code, а перерахунок у показники споживання електроенергії ґрунтується на трьох незалежних методах із різними припущеннями.

У розрахунку на один запит це становить приблизно 150 Вт·год — близько у 600 разів більше, ніж медіанний чат-запит. «Зрештою, “запит” є не більшою одиницею використання ШІ, ніж “поїздки” є одиницею вимірювання водіння; важливо, яку відстань ви долаєте», — пише Гаусфатер.

Один день використання агента споживає більше енергії, ніж два холодильники

Медіанна сесія Claude Code у Гаусфатера споживала близько 0,6 кВт·год — у п’ятдесят разів більше електроенергії, ніж потрібно для заряджання телефона. У середньому за день використання Claude Code він витрачав 3,0 кВт·год (діапазон: від 1,2 до 5,9 кВт·год) — більше, ніж добове споживання двох холодильників.

За його оцінкою, у найінтенсивніший день, коли кілька паралельних агентів виконували масштабний аналіз геоданих, було спожито 11 кВт·год. Це понад третину добового споживання електроенергії середньостатистичним домогосподарством США.

Рік інтенсивного використання агентів відповідає роботі сушарки для одягу

У перерахунку на повний рік агентське використання Claude Code Гаусфатером споживало б близько 1,1 МВт·год електроенергії центру обробки даних (від 0,4 до 2,2 МВт·год) — приблизно десяту частину річного споживання середнього домогосподарства США. На основі середньої структури електроенергетики США це відповідає приблизно 370 кг CO₂-еквіваленту на рік.

Це трохи більше, ніж викиди від роботи електричної сушарки для одягу протягом року (262 кг), і приблизно половина викидів від перельоту економкласом туди й назад із Сан-Франциско до Нью-Йорка (700 кг), хоча Гаусфатер зазначає, що показник для польоту охоплює лише прямі викиди CO₂. Це близько восьми відсотків річних викидів типового автомобіля в США з бензиновим двигуном і приблизно два відсотки річного вуглецевого сліду середньостатистичного американця. «Це водночас значне джерело викидів і відносно невелика частина мого загального вуглецевого сліду», — пише Гаусфатер.

Чиста електроенергія важливіша за скорочення використання

Гаусфатер не закликає до жертовності чи почуття провини. Особисте самообмеження невеликої групи інтенсивних користувачів «не змінить жодних тенденцій», — каже він, додаючи, що перенаправляти прості завдання до менших моделей має сенс, оскільки вони використовують у п’ять–сім разів менше енергії на токен, ніж передові моделі.

Однак найбільшим важелем є вуглецева інтенсивність самої електроенергії, стверджує він. Якби те саме навантаження працювало переважно на чистій енергії, вуглецевий слід зменшився б приблизно на 90 відсотків. Проблема в тому, що майже три чверті запланованої генерації електроенергії на території центрів обробки даних у США працюватиме на природному газі.

Саме тут Гаусфатер бачить можливість. Компанії, що займаються ШІ, мають величезний капітал і надзвичайну нагальність. Якщо ці гроші спрямувати на чисту енергетику, розширення електромережі та передові технології на кшталт геотермальної чи ядерної енергетики, бум ШІ може залишити електромережу чистішою, ніж він її застав.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний шість разів на рік звіт про передові розробки «AI Radar», повний доступ до архіву та доступ до розділу коментарів.