Mūsdienu AI aģenti nav tikai lieli valodas modeļi, kas atbild uz atsevišķiem lietotāja jautājumiem. Tie darbojas kopā ar dažādiem rīkiem un lietotņu slāņiem, patstāvīgi izpildot vairākus soļus, piemēram, palaižot komandas, lasot failus vai izsaucot ārējos rīkus. Šāda uzbūve var būtiski palielināt sistēmas elektroenerģijas patēriņu.

Precīzi noteikt kopējo patēriņu ir sarežģīti, jo lielākās privātās AI laboratorijas publiski neatklāj detalizētus datus par savu sistēmu enerģijas izmantošanu. Tāpēc nav iespējams droši aprēķināt, kādu slodzi AI asistenti rada elektrotīklam kopumā.

Claude Code atkārtoti apstrādā uzkrāto kontekstu

Klimata zinātnieks Zeke Hausfather analizēja savu tipisko darbu ar Anthropic izstrādāto AI programmēšanas palīgu Claude Code. Uzskaitot apstrādāto tokenu skaitu, viņš lēsa, ka vidējais dienas patēriņš bija no 1,2 līdz 5,9 kilovatstundām.

Pēc Hausfather aprēķiniem, tas ir vairāk nekā divu ledusskapju patēriņš, ja tie darbojas visu diennakti. Lielākā daļa tokenu tika patērēta nevis lietotājam redzamās atbildes ģenerēšanai, bet gan aģenta darba konteksta atkārtotai nolasīšanai.

Astoņu nedēļu laikā aģents apstrādāja 3,2 miljardus tokenu. Hausfather norādīja, ka aptuveni 96% no tiem bija kešatmiņas nolasījumi, kuros sistēma atkārtoti pārskatīja savu iepriekšējo kontekstu katrā no aptuveni 14 000 darbības soļu. Teksts, ko lietotājs faktiski redzēja, veidoja tikai ap 0,4% no kopējā apstrādāto tokenu skaita.

“Katru reizi, kad aģents veic kādu soli, modelis atkārtoti apstrādā visu līdz tam uzkrāto kontekstu,” skaidroja Hausfather. Viņš uzsvēra, ka kešatmiņas tokena atkārtota nolasīšana ir daudz lētāka nekā jauna tokena apstrāde, tomēr lielais kopējais apjoms būtiski ietekmē enerģijas aplēses.

Individuāls patēriņš sabiedrības mērogā ātri pieaug

Ekstrapolējot savus rezultātus uz gadu, Hausfather secināja, ka šāds lietojums radītu nedaudz lielākas emisijas nekā elektriskā veļas žāvētāja darbināšana gada laikā. Tas būtu aptuveni uz pusi mazāk nekā emisijas, ko Kalifornijā rada elektromobiļa nobraukšana 11 500 jūdžu jeb aptuveni 18 500 kilometru attālumā.

Viens lietotājs šādu ietekmi varētu uzskatīt par salīdzinoši nelielu, taču miljoniem cilvēku vienlaicīgs AI aģentu lietojums rada daudz lielāku kopējo pieprasījumu pēc elektroenerģijas. Hausfather norādīja, ka tā ir jauna emisiju avota kategorija laikā, kad pasaules temperatūra turpina paaugstināties un emisiju samazināšanas mērķi netiek sasniegti pietiekami ātri.

Vienlaikus aprēķins nav uzskatāms par galīgu. AI ilgtspējas pētnieks Boriss Gamazaychikov to raksturoja kā “labu mēģinājumu”, taču norādīja, ka tas balstās uz novecojušiem datiem. Viņa paša pētījums par aģentiskā AI enerģijas patēriņu gaidāms septembra beigās, un tā rezultāti var būtiski mainīt izpratni par šo sistēmu patiesajām izmaksām videi.