AI агентите използват приблизително 600 пъти повече енергия от обикновена чат заявка

Google и OpenAI успокояват потребителите с данни за ниска консумация на енергия при всяка AI заявка. Данните на климатолога Зийк Хаусфадър за Claude Code разказват различна история.

Google твърди, че една медианна текстова заявка към Gemini използва само 0,24 ватчаса (Wh) — по-малко енергия от девет секунди гледане на телевизия. Главният изпълнителен директор на OpenAI Сам Алтман изчислява, че средната заявка към ChatGPT използва 0,34 Wh, приблизително колкото търсене в Google през 2009 г..

И двете стойности са публикувани миналата година. Още тогава беше ясно, че числата представят погрешно реалната употреба на AI. Те не отчитат модели за разсъждение, които генерират многократно повече токени от една чат заявка, мултимодална обработка в различни формати, системи с множество агенти, генериране на код, мащабиране до милиарди употреби и много други фактори. „Проучването“ на Google по-специално омаловажава значително реалната консумация на енергия.

Климатологът Зийк Хаусфадър вече е изчислил колко голяма е тази разлика в анализ в The Climate Brink. Остава една съществена неизвестна: никой извън лабораториите за AI не знае реалната енергийна цена на токен при най-съвременните модели. Имайте предвид, че числата на Хаусфадър са разумни оценки, но все пак са само оценки.

Те се основават и на настоящите модели на употреба. Лабораториите за AI вече работят по мащабирането на агентски системи, които автономно изпълняват задачи в продължение на дни, седмици или дори месеци. Това може да доведе до експоненциален скок в консумацията на енергия.

3,2 милиарда токена за осем седмици

Хаусфадър е проследил подробно собствената си употреба в продължение на осем седмици. Claude Code съхранява пълни локални записи на всяка сесия, включително точния брой токени, отчетен от API за всяко извикване на модел.

Неговите 1138 въведени подканвания са задействали над 14 000 извиквания към модели — средно по 12 на подканване. Всяко подканване е обработило средно 2,9 милиона токена. За сравнение, типичен чат обмен без разсъждение или търсене в интернет използва около хиляда токена.

Общо Claude Code е обработил 3,2 милиарда токена. От тях 96 процента са били прочитания от кеша, тъй като при всяка от 14 000-те стъпки агентът прочита отново целия натрупан контекст. Текстът, който Хаусфадър действително вижда на екрана — изходът на модела — представлява само 0,4 процента от всички обработени токени.

Най-добрата му оценка за общата консумация е около 170 kWh електроенергия за центрове за данни за осем седмици, с диапазон на несигурност от 70 до 330 kWh. Хаусфадър е измерил директно само броя токени от записите на Claude Code, а преобразуването им в стойности за електроенергия се основава на три независими метода с различни допускания.

На подканване това се равнява на приблизително 150 Wh — около 600 пъти повече от една медианна чат заявка. „В крайна сметка „подканването“ не е мерна единица за употреба на AI, както „пътуванията“ не са мерна единица за шофиране; важно е колко далеч стигате“, пише Хаусфадър.

Един ден употреба на агент консумира повече енергия от два хладилника

Медианната сесия на Хаусфадър с Claude Code е консумирала около 0,6 kWh — петдесет пъти повече електроенергията, необходима за зареждане на телефон. Средният му ден с Claude Code е достигнал 3,0 kWh (диапазон: 1,2 до 5,9 kWh), повече от дневната консумация на два хладилника.

В най-интензивния си ден, когато няколко паралелни агента са обработвали мащабен анализ на геоданни, той изчислява, че са били консумирани 11 kWh. Това е повече от една трета от дневната консумация на електроенергия на средностатистическо домакинство в САЩ, според Хаусфадър.

Една година интензивна употреба на агенти се равнява на сушилня за дрехи

Ако се разшири до цяла година, агентската употреба на Claude Code от Хаусфадър би консумирала около 1,1 MWh електроенергия за центрове за данни (0,4 до 2,2 MWh) — приблизително една десета от годишната консумация на средностатистическо домакинство в САЩ. Въз основа на средния енергиен микс на САЩ това се равнява на около 370 kg CO₂ еквивалент годишно.

Това е малко повече от работата на електрическа сушилня за дрехи в продължение на година (262 kg) и около половината от двупосочен полет в икономична класа от Сан Франциско до Ню Йорк (700 kg), макар че Хаусфадър отбелязва, че стойността за полета включва само преките емисии на CO₂. Това се равнява на около осем процента от годишните емисии на типичен американски автомобил с бензинов двигател и приблизително два процента от годишния въглероден отпечатък на средностатистическия американец. „Това едновременно е голям източник на емисии и сравнително малка част от общия ми въглероден отпечатък“, пише Хаусфадър.

Чистата електроенергия е по-важна от ограничаването на употребата

Хаусфадър не призовава към лишения или чувство за вина. Личната умереност на малката група интензивни потребители „няма да промени общата тенденция“, казва той, като добавя, че има смисъл простите задачи да се насочват към по-малки модели, тъй като те използват пет до седем пъти по-малко енергия на токен от водещите модели.

Но най-големият лост е въглеродният интензитет на самата електроенергия, твърди той. Ако същото натоварване се изпълняваше предимно с чиста енергия, въглеродният отпечатък би намалял с около 90 процента. Проблемът е, че близо три четвърти от планираното производство на електроенергия на място за центровете за данни в САЩ ще работи на природен газ.

Именно тук Хаусфадър вижда възможност. Компаниите за AI разполагат с огромен капитал и необичайна спешност. Ако тези средства се насочат към чиста енергия, разширяване на електрическата мрежа и напреднали технологии като геотермална или ядрена енергия, бумът на AI може да остави електрическата мрежа по-чиста, отколкото я е заварил.

Новини за AI без сензации – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен бюлетин за AI, ексклузивния ни шест пъти годишно доклад за водещите модели „AI Radar“, достъп до целия архив и до секцията за коментари.