Vedeli ste, že trénovanie jedného AI modelu môže vyprodukovať toľko uhlíka ako päť automobilov?
Nedávne štúdie ukázali, že uhlíková stopa spojená s tréningom umelej inteligencie (AI) je významná. Ako môžeme znížiť jej vplyv na životné prostredie?
Výskumníci z University of Massachusetts, Amherst, vykonali hodnotenie životného cyklu pri tréningu niekoľkých bežne používaných veľkých modelov AI (LLM). Zistili, že proces môže emitovať viac ako 284 000 kg oxidu uhoľnatého, čo je približne päťkrát viac ako celoživotné emisie priemerného amerického auta (vrátane jeho výroby).
Bolo zistené, že uhlíková stopa tréningu AI je významná a súvisí s energiou potrebnou na napájanie serverov, ktoré sa používajú na tréning modelov. Emisie spojené s tréningom AI môžu byť znížené používaním obnoviteľnej energie na napájanie dátových centier.
Efektívne algoritmy znížia emisie uhlíka znížením energie potrebnej na tréning modelov AI, napr. Aproximačné algoritmy, ktoré poskytujú dobré riešenia problémov bez zaručenia najlepšieho možného riešenia, alebo Dátovo riadené algoritmy, ktoré sú trénované na dátach. Nižšie uvedená tabuľka ukazuje výsledky používania dvoch optimalizačných algoritmov: Flexible Start, ktorý umožňuje flexibilitu pre AI pracovné zaťaženie kratších úloh, a Pause & Resume, ktorý pozastavuje a obnovuje prácu podľa určitého prahu, pre dlhšie úlohy.
Pozastavenie AI pracovného zaťaženia, keď sú regionálne emisie vysoké, môže znížiť celkové sumy. Úspory môžu byť významné, až 25 % pre veľmi dlhé behy. Úspory sú nižšie pre krátke behy, pretože zdvojnásobená doba trvania je stále relatívne krátka. Tabuľka tiež ukazuje, že počet pozastavení za hodinu stúpa s veľkosťou modelu. Je to spôsobené tým, že väčšie modely vyžadujú viac výpočtovej sily a preto ich tréning trvá dlhšie.
Päť tipov a inovatívnych technológií na zníženie uhlíkových emisií pri tréningu AI
- Používajte energeticky efektívny hardware, čo môže zahŕňať GPU.
- GPU sú energeticky efektívnejšie než CPU pri porovnávaní práce na watt pre určité zaťaženie. GPU môžu byť použité na rýchlejší tréning modelov AI a tým používať menej energie ako prostredie využívajúce iba CPU.
- Chladenie kvapalinou môže byť použité na efektívnejšie chladenie výpočtového hardvéru, čím sa znižuje spotreba energie a emisie v dátových centrách. A môže znížiť hluk až o 50 % a vytvoriť komfortnejšie pracovné prostredie. Je ľahšie udržiavateľné než chladenie vzduchom a chladiče na kvapalinu sú menej náchylné k poškodeniu.
- Optimalizujte dátové centrá pre energetickú efektívnosť. Existuje niekoľko spôsobov, ako znížiť energiu potrebnú v dátových centrách, napríklad používaním chladenia voľným vzduchom, čo znižuje PUE.
- Efektívnejšie chladiace systémy: Tradičné vzduchom chladené dátové centrá používajú významné množstvo energie na chladenie serverov.
- Efektívnejšie zdroje napájania: Bežné zdroje napájania môžu byť neefektívne, mrhajú až 20 % používanej energie. Používajte zdroje napájania s titánovou alebo platinovou efektívnosťou.
- Efektívnejšie servery: Používajte servery s viacerými uzlami, ktoré môžu zdieľať zdroje, čím sa znižuje celková energetická spotreba na server.
- Používajte obnoviteľnú energiu na tréning AI. Dátové centrá, ktoré sa zameriavajú na tréning AI, môžu byť napájané obnoviteľnými zdrojmi energie: solárnou alebo veternou energiou.
- Zvyšte efektívnosť tréningu AI. Inovatívne technológie, ako sú kvantové počítače, siete s impulznými neurónmi, federatívne učenie, transferové učenie a vyhľadávanie architektúry neurónových sietí, môžu zlepšiť efektívnosť tréningu AI a znížiť spotrebu energie.
- Používajte predtrénované modely. Predtrénované modely už boli vyškolené na veľkom datasete a nemusia byť vyvíjané od začiatku, čo spotrebováva energiu.
Dodržiavajte tieto tipy, aby ste urobili AI udržateľnejšou.
