I bet umesikia kila kitu kutoka "AI hunywa chupa ya maji kila maswali machache" na "ni kimsingi matone machache,". Ukweli ni wa kutatanisha zaidi. AI ya nyayo za maji hubadilika sana kulingana na mahali inapoendeshwa, muda gani wa hoja yako, na jinsi kituo cha data kinavyopunguza seva zake. Kwa hivyo ndio, nambari ya kichwa iko, lakini inaishi ndani ya kichaka cha pango.
Hapa chini ninapakua nambari zilizo wazi, zilizo tayari kufanya maamuzi, kueleza kwa nini makadirio hayakubaliani, na kuonyesha jinsi wajenzi na watumiaji wa kila siku wanaweza kupunguza kichupo cha maji bila kugeuka kuwa watawa wa kudumu.
Makala ambazo unaweza kupenda kusoma baada ya hii:
🔗 Seti ya data ya AI ni nini
Inaelezea jinsi seti za data zinavyowezesha mafunzo ya kujifunza kwa mashine na ukuzaji wa modeli.
🔗 Jinsi AI inavyotabiri mienendo
Inaonyesha jinsi AI inavyochambua ruwaza ili kutabiri mabadiliko na matokeo yajayo.
🔗 Jinsi ya kupima utendaji wa AI
Hufafanua vipimo muhimu vya kutathmini usahihi, kasi na kuegemea.
🔗 Jinsi ya kuzungumza na AI
Huongoza mikakati madhubuti ya ushawishi ili kuboresha uwazi, matokeo, na uthabiti.
AI hutumia maji kiasi gani? Nambari za haraka unaweza kutumia 📏
-
Kwa kila kidokezo, kiwango cha kawaida leo: kutoka mililita ndogo kwa kidokezo cha maandishi ya wastani kwenye mfumo mmoja mkuu, hadi mililita kumi kwa jibu refu na la juu la hesabu kwenye mfumo mwingine. Kwa mfano, uhasibu wa uzalishaji wa Google unaripoti kidokezo cha maandishi ya wastani ~0.26 mL (pamoja na gharama kamili ya huduma ikiwa imejumuishwa) [1]. Tathmini ya mzunguko wa maisha ya Mistral inaonyesha jibu la msaidizi wa tokeni 400 kuwa ~45 mL (hitimisho la pembezoni) [2]. Muktadha na modeli ni muhimu sana.
-
Kufunza modeli ya mizani ya mipaka: inaweza kufikia mamilioni ya lita, hasa kutokana na kupoeza na maji kupachikwa katika uzalishaji wa umeme. Uchanganuzi wa kitaaluma ulionukuliwa sana ulikadiria ~ lita milioni 5.4 kutoa mafunzo kwa modeli ya kiwango cha GPT, ikijumuisha ~ lita 700,000 zinazotumiwa kwenye tovuti kwa ajili ya kupoeza - na kutetea upangaji mahiri wa kupunguza kiwango cha maji [3].
-
Vituo vya data kwa ujumla: tovuti kubwa huchukua mamia ya maelfu ya galoni kwa siku kwa wastani katika waendeshaji wakuu, na vilele vya juu katika baadhi ya vyuo vikuu kutegemea hali ya hewa na muundo [5].
Hebu tuwe waaminifu: takwimu hizo huhisi kutofautiana mwanzoni. Wao ni. Na kuna sababu nzuri.
Vipimo vya matumizi ya maji vya AI ✅
Jibu zuri kwa AI hutumia maji kiasi gani? inapaswa kuangalia visanduku vichache:
-
Uwazi wa mipaka Je, unajumuisha maji ya kupozea yaliyo kwenye tovuti pekee, au pia maji ya nje ya tovuti yanayotumiwa na mitambo ya kuzalisha umeme? Mbinu bora hutofautisha uondoaji wa maji dhidi ya matumizi ya maji na upeo wa 1-2-3, sawa na uhasibu wa kaboni [3].
-
Usikivu wa eneo
Maji kwa kWh hutofautiana kulingana na eneo na mchanganyiko wa gridi, kwa hivyo kidokezo kile kile kinaweza kubeba athari tofauti za maji kulingana na mahali inapohudumiwa - sababu kuu ambayo machapisho yanapendekeza ratiba inayozingatia wakati na mahali [3]. -
Uhalisia wa mzigo wa kazi
Je, nambari inaonyesha vidokezo vya wastani vya uzalishaji, ikiwa ni pamoja na uwezo wa kutofanya kitu na kichwa cha juu cha kituo cha data, au kiongeza kasi pekee katika kilele? Google inasisitiza uhasibu wa mfumo mzima (bila kazi, CPU/DRAM, na kichwa cha juu cha kituo cha data) kwa makisio, si tu hesabu ya TPU [1]. -
Teknolojia ya kupoeza
Upoezaji wa kuyeyuka, upoeshaji wa kimiminika wa kitanzi-funga, upoaji hewa, na mbinu zinazoibuka za moja kwa moja hadi kwenye chip hubadilisha kiwango cha maji kwa kiasi kikubwa. Microsoft inazindua miundo inayokusudiwa kuondoa matumizi ya maji ya kupoeza kwa tovuti fulani za kizazi kipya [4]. -
Muda wa siku na msimu
Hali ya joto, unyevunyevu na gridi ya taifa huhamisha ufanisi wa matumizi ya maji katika maisha halisi; utafiti mmoja wenye ushawishi mkubwa unapendekeza kupanga kazi kuu wakati na ambapo kiwango cha maji ni cha chini [3].
Uondoaji wa maji dhidi ya matumizi ya maji, alielezea 💡
-
Uondoaji = maji yaliyochukuliwa kutoka mito, maziwa, au chemichemi ya maji (mengine yalirudishwa).
-
Matumizi = maji ambayo hayarudishwi kwa sababu yanayeyuka au kuingizwa katika michakato/bidhaa.
Minara ya kupoeza hutumia maji kwa njia ya uvukizi. Uzalishaji wa umeme unaweza kutoa kiasi kikubwa cha maji (wakati mwingine hutumia sehemu yake), kulingana na kiwanda na njia ya kupoeza. Lebo za kuaminika za AI-nambari za maji ambazo inaripoti [3].
Mahali ambapo maji huenda katika AI: ndoo tatu 🪣
-
Upeo 1 - upoaji kwenye tovuti
Sehemu inayoonekana: maji yalivukizwa kwenye kituo cha data yenyewe. Chaguo za muundo kama vile kuyeyuka dhidi ya hewa au kioevu-kitanzi kilichofungwa huweka msingi [5]. -
Wigo wa 2 - uzalishaji wa umeme
Kila kWh inaweza kubeba lebo ya maji iliyofichwa; mchanganyiko na eneo huamua ishara ya lita-kwa-kWh ambayo mzigo wako wa kazi unarithi [3]. -
Wigo wa 3 -
Uzalishaji wa mnyororo wa usambazaji wa chips hutegemea maji safi sana katika utengenezaji. Hutaiona katika kipimo cha "kwa kila pendekezo" isipokuwa mpaka ujumuishe waziwazi athari zilizomo (km, LCA kamili) [2][3].
Watoa huduma kwa nambari, wenye nuances 🧮
-
Google Gemini inakushauri mbinu ya kuhudumia kwa rafu kamili (ikiwa ni pamoja na kutofanya kitu na juu ya kituo).cha Kidokezo maandishi ya wastani ~0.26 mL ya maji pamoja na nishatitakwimu zinaonyesha trafiki ya uzalishaji na mipaka ya kina [1]. ~0.24 Wh ;
-
Mzunguko wa maisha wa Mistral Large 2
LCA isiyojitegemea nadra (yenye ADEME/Carbone 4) inaonyesha ~281,000 m³ kwa mafunzo + matumizi ya mapema na pembezoni ya makadirio ~45 mL kwa tokeni 400 [2]. -
Lengo la Microsoft la kupoeza bila maji
Vituo vya data vya kizazi kijacho vimeundwa kutotumia maji kabisa kwa ajili ya kupoeza, vikitegemea mbinu za moja kwa moja hadi kwenye chip; matumizi ya msimamizi bado yanahitaji maji [4]. -
Kiwango cha kituo cha data cha jumla
Waendeshaji wakuu huripoti hadharani mamia ya maelfu ya galoni kwa siku kwa wastani katika tovuti binafsi; hali ya hewa na nambari za kusukuma za muundo juu au chini [5]. -
Msingi wa awali wa kitaaluma
Uchambuzi muhimu wa "kiu ya akili bandia" ulikadiria mamilioni ya lita kufunza mifumo ya darasa la GPT, na kwamba majibu ya wastani ya 10-50 yanaweza kuwa sawa na ya mL 500 - inategemea sana wakati/mahali yanapoendeshwa [3].
Kwa nini makadirio hayakubaliani sana 🤷
-
Mipaka tofauti
Baadhi ya takwimu huhesabu tu upoezaji wa mahali hapo; zingine huongeza maji ya umeme; LCA zinaweza kuongeza utengenezaji wa chipsi. Tufaha, machungwa, na saladi ya matunda [2][3]. -
Mzigo tofauti wa kazi
Kidokezo kifupi cha maandishi si uendeshwaji mrefu wa modal/code; malengo ya batching, concurrency, na latency hubadilisha matumizi [1][2]. -
Hali ya hewa na gridi tofauti
Upoozaji wa uvukizi katika eneo lenye joto na ukame ≠ upozaji wa hewa/kioevu katika eneo lenye baridi na unyevunyevu. Kiwango cha maji katika gridi hutofautiana sana [3]. -
Mbinu za wauzaji
Google ilichapisha mbinu ya kuhudumia mfumo mzima; Mistral ilichapisha LCA rasmi. Nyingine hutoa makadirio ya pointi yenye mbinu chache. Dai la "moja ya kumi na tano ya kijiko cha chai" la kila mara liligonga vichwa vya habari - lakini bila maelezo ya mpaka, haliwezi kulinganishwa [1][3]. -
Lengo linalosonga
Upoezaji unabadilika haraka. Microsoft inafanya majaribio ya kupoeza bila maji katika tovuti fulani; kusambaza hizi kutapunguza maji kwenye tovuti hata kama umeme wa mto bado unabeba ishara ya maji [4].
Unachoweza kufanya leo kupunguza alama ya maji ya AI 🌱
-
Mfano wa ukubwa wa kulia
Mifano midogo, iliyorekebishwa kazi mara nyingi hulingana na usahihi huku ikipunguza hesabu. Tathmini ya Mistral inasisitiza uhusiano mkubwa wa ukubwa na mguu - na huchapisha nambari za pembezoni ili uweze kufikiria kuhusu mabadiliko [2]. -
Chagua maeneo yanayozingatia maji
Pendelea maeneo yenye hali ya hewa baridi, upoezaji mzuri, na gridi zenye kiwango cha chini cha maji kwa kila kWh; kazi ya "kiu ya akili bandia" inaonyesha inayozingatia wakati na mahali husaidia [3]. -
Hamisha mizigo ya kazi kwa wakati
Ratibu mafunzo/maelekezo mazito ya bechi kwa saa zinazotumia maji vizuri (usiku wa baridi, hali nzuri ya gridi) [3]. -
Uliza muuzaji wako vipimo vya uwazi
Mahitaji ya maji kwa kila wakati, ufafanuzi wa mipaka, na ikiwa nambari zinajumuisha uwezo wa kufanya kitu na uendeshaji wa kituo. Vikundi vya sera vinasukuma ufichuzi wa lazima ili kufanya ulinganisho wa tufaha na tufaha iwezekanavyo [3]. -
Teknolojia ya kupoeza ni muhimu
Ukitumia vifaa, tathmini upoezaji wa kitanzi kilichofungwa/moja kwa moja kutoka kwa chip; ikiwa uko kwenye wingu, pendelea maeneo/watoa huduma kuwekeza katika miundo ya mwanga wa maji [4][5]. -
Tumia maji ya kijivu na chaguzi za kutumia tena
Kampasi nyingi zinaweza kubadilisha vyanzo visivyoweza kunyweka au kusaga tena ndani ya vitanzi; waendeshaji wakubwa huelezea kusawazisha vyanzo vya maji na chaguo za kupoeza ili kupunguza athari halisi [5].
Mfano wa haraka wa kuifanya iwe halisi (sio sheria ya jumla): kuhamisha kazi ya mafunzo ya usiku kucha kutoka eneo lenye joto na ukavu katikati ya kiangazi hadi eneo lenye baridi na unyevunyevu zaidi wakati wa masika - na kuiendesha wakati wa saa zisizo za kilele na baridi - kunaweza kubadilisha mahali hapo na nje ya mahali (gridi). Hiyo ndiyo aina ya ratiba ya ushindi wa vitendo na wa chini wa drama ambayo inaweza kufungua [3].
Jedwali la kulinganisha: chaguzi za haraka za kupunguza tozo ya maji ya AI 🧰
| chombo | watazamaji | bei | kwa nini inafanya kazi |
|---|---|---|---|
| Mifano ndogo, zilizopangwa kwa kazi | Timu za ML, viongozi wa bidhaa | Chini–wastani | Kiwango kidogo cha hesabu kwa kila tokeni = kiwango kidogo cha kupoeza + maji ya umeme; imethibitishwa katika kuripoti kwa mtindo wa LCA [2]. |
| Uchaguzi wa eneo kwa maji/kWh | Wasanifu wa wingu, ununuzi | Kati | Hamisha hadi hali ya hewa ya baridi na gridi na kiwango cha chini cha maji; unganisha na uelekezaji unaotambua mahitaji [3]. |
| Dirisha la mafunzo ya wakati wa siku | MLOps, wapanga ratiba | Chini | Usiku wenye baridi + hali bora ya gridi hupunguza kiwango cha maji kinachofaa [3]. |
| Upoaji wa moja kwa moja hadi kwa chip/kitanzi kilichofungwa | Ops za kituo cha data | Kiwango cha kati - cha juu | Huepuka minara ya kuyeyuka inapowezekana, kufyeka matumizi ya tovuti [4]. |
| Urefu wa haraka na vidhibiti vya bechi | Watengenezaji wa programu | Chini | Tokeni zilizokwama, kundi kwa busara, matokeo ya akiba; milisekunde chache, mililita chache [1][2]. |
| Orodha ya uwazi ya muuzaji | CTOs, uendelevu unaongoza | Bure | Hulazimisha uwazi wa mipaka (kwenye tovuti dhidi ya tovuti) na kuripoti tufaha kwa tufaha [3]. |
| Maji ya kijivu au vyanzo vilivyorejeshwa | Vifaa, manispaa | Kati | Kubadilisha maji yasiyo ya kunywa huondoa mkazo kwenye vifaa vya kunyweka [5]. |
| Ushirikiano wa kutumia tena joto | Waendeshaji, halmashauri za mitaa | Kati | Ufanisi bora wa joto hupunguza mahitaji ya kupoeza kwa njia isiyo ya moja kwa moja na hujenga nia njema ya ndani [5]. |
(“Bei” inabadilikabadilika kulingana na muundo - uwekaji hutofautiana.)
Kupiga mbizi kwa kina: mdundo wa sera unazidi kupaza 🥁
Mashirika ya uhandisi yanahitaji ufichuzi wa lazima wa nishati na maji katika kituo cha data ili wanunuzi na jamii waweze kuhukumu gharama na faida. Mapendekezo ni pamoja na ufafanuzi wa wigo, kuripoti kiwango cha tovuti, na mwongozo wa eneo - kwa sababu bila vipimo vinavyolingana na vinavyotambua eneo, tunabishana gizani [3].
Kupiga mbizi kwa kina: vituo vya data havinyweki kwa njia ile ile 🚰
Kuna hadithi inayoendelea kwamba "kupoeza hewa hakutumii maji." Sio kabisa. Mifumo ya hewa nzito mara nyingi inahitaji umeme zaidi, ambao katika maeneo mengi hubeba maji yaliyofichwa kutoka kwenye gridi ya taifa; kinyume chake, kupoeza maji kunaweza kupunguza umeme na uzalishaji kwa gharama ya maji yaliyopo. Waendeshaji wakubwa husawazisha waziwazi mabadilishano haya ya tovuti kwa tovuti [1][5].
Kupiga mbizi kwa kina: ukaguzi wa haraka wa ukweli kuhusu madai yanayotokana na virusi 🧪
Huenda umeona kauli nzito kwamba hoja moja ni sawa na "chupa ya maji," au, kwa upande mwingine, "matone machache tu." Mkao bora: unyenyekevu na hesabu . Miisho ya siku hizi inayoaminika ni ~0.26 mL kwa hoja ya wastani ya uzalishaji yenye gharama kamili ya huduma [1] na ~45 mL kwa jibu la msaidizi la tokeni 400 (hitimisho la pembezoni) [2]. Dai la "moja ya kumi na tano ya kijiko" linaloshirikiwa sana halina mpaka/mbinu ya umma; lichukulie kama utabiri wa hali ya hewa bila jiji [1][3].
Maswali Machache Yanayoulizwa Mara kwa Mara: Je, akili bandia hutumia maji kiasi gani? tena, kwa Kiingereza rahisi 🗣️
-
Kwa hivyo, niseme nini katika mkutano?
"Kwa kila pendekezo, huanzia matone hadi mikunjo michache, kulingana na modeli, urefu, na mahali inapoendeshwa. Mafunzo huchukua mabwawa, si madimbwi." Kisha taja mfano mmoja au miwili hapo juu. -
Je, AI ni mbaya sana?
Imejikita kipekee :chipu zenye nguvu nyingi zilizounganishwa pamoja huunda mzigo mkubwa wa kupoeza. Lakini vituo vya data pia ni mahali ambapo teknolojia bora ya ufanisi huelekea kutua kwanza [1][4]. -
Vipi tukihamisha kila kitu kwenye hewa ya kupoeza?
Unaweza kupunguza kwenye eneo la kazi lakini ukaongeza nje ya eneo la kazi kupitia umeme. Waendeshaji wa kisasa wanapima zote mbili [1][5]. -
Vipi kuhusu teknolojia ya siku zijazo?
Miundo inayoepuka kupoeza maji kwa kiwango kikubwa ingekuwa mabadiliko makubwa kwa Wigo wa 1. Baadhi ya waendeshaji wanasonga hivi; umeme wa juu bado una mawimbi ya maji hadi gridi zibadilike [4].
Maneno ya Mwisho - Muda Mrefu, Sikuisoma 🌊
-
Kwa haraka: fikiria mililita ndogo hadi makumi ya mililita, kulingana na mfano, urefu wa haraka, na wapi inaendeshwa. Kidokezo cha wastani ~0.26 mL kwenye rundo moja kuu; ~45mL kwa jibu la ishara 400 kwa lingine [1][2].
-
Mafunzo: mamilioni ya lita kwa mifumo ya mipaka, na kufanya upangaji ratiba, upangaji, na teknolojia ya upoezaji kuwa muhimu [3].
-
Cha kufanya: miundo ya ukubwa wa kulia, chagua maeneo yanayotumia maji, badilisha kazi nzito hadi saa za baridi, unapendelea wachuuzi wanaothibitisha miundo ya mwanga wa maji, na kudai mipaka yenye uwazi [1][3][4][5].
Sitiari yenye dosari kidogo ya kumalizia: AI ni orchestra yenye kiu - melody ni compute, lakini ngoma ni baridi na gridi ya maji. Rejesha bendi, na hadhira bado inapata muziki bila vinyunyuzizi kuzima. 🎻💦
Marejeleo
-
Blogu ya Wingu la Google - Je, akili bandia ya Google hutumia nishati ngapi? Tulifanya hesabu (mbinu + ~0.26 mL ya wastani, huduma kamili ya ziada). Kiungo
(Karatasi ya kiufundi PDF: Kupima athari za kimazingira za kutoa akili bandia kwa kiwango cha Google.) Kiungo -
Mistral AI - Mchango wetu kwa kiwango cha kimataifa cha mazingira kwa AI (LCA yenye ADEME/Carbone 4; ~281,000 m³ mafunzo + matumizi ya mapema; ~45 mL kwa kila tokeni 400 , makadirio ya pembezoni). Kiungo
-
Li et al. - Kupunguza "Kiu" ya AI: Kufichua na Kushughulikia Siri ya Maji ya Mifumo ya AI (kufundisha mamilioni ya lita, inayozingatia wakati na mahali , uondoaji dhidi ya matumizi). Kiungo
-
Microsoft - Wakala wa data wa kizazi kijacho hutumia maji sufuri kwa kupoeza (miundo ya moja kwa moja hadi kwenye chip inayolenga upoaji usio na maji kwenye tovuti fulani). Kiungo
-
Vituo vya Data vya Google - Hufanya kazi kwa uendelevu (mabadiliko ya kupozea tovuti kwa tovuti; kuripoti na kutumia tena, ikiwa ni pamoja na kurejeshwa/kunywa maji ya kijivu; maagizo ya kawaida ya matumizi ya kila siku ya kiwango cha tovuti). Kiungo