Je, AI hutumia maji kiasi gani?

I bet umesikia kila kitu kutoka "AI hunywa chupa ya maji kila maswali machache" na "ni kimsingi matone machache,". Ukweli ni wa kutatanisha zaidi. AI ya nyayo za maji hubadilika sana kulingana na mahali inapoendeshwa, muda gani wa hoja yako, na jinsi kituo cha data kinavyopunguza seva zake. Kwa hivyo ndio, nambari ya kichwa iko, lakini inaishi ndani ya kichaka cha pango.

Hapa chini ninapakua nambari zilizo wazi, zilizo tayari kufanya maamuzi, kueleza kwa nini makadirio hayakubaliani, na kuonyesha jinsi wajenzi na watumiaji wa kila siku wanaweza kupunguza kichupo cha maji bila kugeuka kuwa watawa wa kudumu.

Makala unayoweza kupenda kusoma baada ya hii:

🔗 Seti ya data ya AI ni nini
Inaelezea jinsi seti za data zinavyowezesha mafunzo ya kujifunza kwa mashine na ukuzaji wa modeli.

🔗 Jinsi AI inavyotabiri mienendo
Inaonyesha jinsi AI inavyochambua ruwaza ili kutabiri mabadiliko na matokeo yajayo.

🔗 Jinsi ya kupima utendaji wa AI
Hufafanua vipimo muhimu vya kutathmini usahihi, kasi na kuegemea.

🔗 Jinsi ya kuzungumza na AI
Huongoza mikakati madhubuti ya ushawishi ili kuboresha uwazi, matokeo, na uthabiti.

AI hutumia maji kiasi gani? Nambari za haraka unaweza kutumia 📏

• Kwa haraka, masafa ya kawaida leo: kutoka mililita ndogo kwa dodoso ya maandishi ya wastani kwenye mfumo mmoja mkuu, hadi makumi ya mililita kwa jibu refu, la hesabu ya juu zaidi kwenye mfumo mwingine. Kwa mfano, uhasibu wa uzalishaji wa Google huripoti kidokezo cha maandishi cha wastani ~0.26 mL (pamoja na huduma kamili ya ziada) [1]. Tathmini ya mzunguko wa maisha ya Mistral huweka jibu la msaidizi la tokeni 400 kwa ~45 ml (maelekezo ya kando) [2]. Muktadha na mfano ni muhimu sana.

• Kufunza modeli ya mizani ya mipaka: inaweza kufikia mamilioni ya lita , hasa kutokana na kupoeza na maji kupachikwa katika uzalishaji wa umeme. Uchanganuzi wa kitaaluma ulionukuliwa sana ulikadiria ~ lita milioni 5.4 kutoa mafunzo kwa modeli ya kiwango cha GPT, ikijumuisha ~ lita 700,000 zinazotumiwa kwenye tovuti kwa ajili ya kupoeza - na kutetea upangaji mahiri wa kupunguza kiwango cha maji [3].

• Vituo vya data kwa ujumla: tovuti kubwa huchukua mamia ya maelfu ya galoni kwa siku kwa wastani katika waendeshaji wakuu, na vilele vya juu katika baadhi ya vyuo vikuu kutegemea hali ya hewa na muundo [5].

Hebu tuwe waaminifu: takwimu hizo huhisi kutofautiana mwanzoni. Wao ni. Na kuna sababu nzuri.

Vipimo vya matumizi ya maji vya AI ✅

Jibu zuri kwa AI hutumia maji kiasi gani? inapaswa kuangalia visanduku vichache:

1. Uwazi wa mipaka
   Je, unajumuisha maji ya kupozea yaliyo kwenye tovuti maji ya nje ya tovuti mitambo ya kuzalisha umeme? Mbinu bora hutofautisha uondoaji wa maji dhidi ya matumizi ya maji na upeo wa 1-2-3, sawa na uhasibu wa kaboni [3].

2. Unyeti wa eneo
   Maji kwa kila kWh hutofautiana kulingana na eneo na mchanganyiko wa gridi, kwa hivyo kidokezo sawa kinaweza kubeba athari tofauti za maji kulingana na mahali kinatolewa - sababu kuu ambayo fasihi inapendekeza upangaji wa kufahamu wakati na mahali [3].

3. Uhalisia wa mzigo wa kazi
   Je, nambari inaonyesha vidokezo vya wastani vya uzalishaji , ikiwa ni pamoja na uwezo wa kutofanya kitu na kichwa cha juu cha kituo cha data, au kiongeza kasi pekee katika kilele? Google inasisitiza uhasibu wa mfumo mzima (bila kazi, CPU/DRAM, na kichwa cha juu cha kituo cha data) kwa makisio, si tu hesabu ya TPU [1].

4. Teknolojia ya kupoeza
   Upoezaji wa kuyeyuka, upoeshaji wa kimiminika wa kitanzi-funga, upoaji hewa, na mbinu zinazoibuka za moja kwa moja hadi kwenye chip hubadilisha kiwango cha maji kwa kiasi kikubwa. Microsoft inazindua miundo inayokusudiwa kuondoa matumizi ya maji ya kupoeza kwa tovuti fulani za kizazi kipya [4].

5. Muda wa siku na msimu
   Hali ya joto, unyevunyevu na gridi ya taifa huhamisha ufanisi wa matumizi ya maji katika maisha halisi; utafiti mmoja wenye ushawishi mkubwa unapendekeza kupanga kazi kuu wakati na ambapo kiwango cha maji ni cha chini [3].

Uondoaji wa maji dhidi ya matumizi ya maji, alielezea 💡

• Uondoaji = maji yaliyochukuliwa kutoka mito, maziwa, au chemichemi ya maji (mengine yalirudishwa).

• Matumizi = maji ambayo hayarudishwi kwa sababu yanayeyuka au kuingizwa katika michakato/bidhaa.

Minara ya kupoeza hutumia maji kwa njia ya uvukizi. Uzalishaji wa umeme unaweza kutoa kiasi kikubwa cha maji (wakati mwingine hutumia sehemu yake), kulingana na kiwanda na njia ya kupoeza. Lebo za kuaminika za AI-nambari za maji ambazo inaripoti [3].

Mahali ambapo maji huenda katika AI: ndoo tatu 🪣

1. Upeo 1 - upoaji kwenye tovuti
   Sehemu inayoonekana: maji yalivukizwa kwenye kituo cha data yenyewe. Chaguo za muundo kama vile kuyeyuka dhidi ya hewa au kioevu-kitanzi kilichofungwa huweka msingi [5].

2. Wigo wa 2 - uzalishaji wa umeme
   Kila kWh inaweza kubeba lebo ya maji iliyofichwa; mchanganyiko na eneo huamua ishara ya lita-kwa-kWh ambayo mzigo wako wa kazi unarithi [3].

3. Upeo wa 3 -
   Utengenezaji wa Chip unategemea maji safi kabisa katika utengenezaji. Huwezi kuiona katika kipimo cha "kwa kila kidokezo" isipokuwa mpaka unajumuisha kwa uwazi athari zilizojumuishwa (km, LCA kamili) [2][3].

Watoa huduma kwa nambari, wenye nuances 🧮

• Google Gemini inakushauri
  mbinu ya kuhudumia kwa rafu kamili (ikiwa ni pamoja na kutofanya kitu na juu ya kituo). cha maandishi ya wastani ~0.26 mL ya maji pamoja na nishati ~0.24 Wh takwimu zinaonyesha trafiki ya uzalishaji na mipaka ya kina [1].

• Mistral Large 2 lifecycle
  LCA huru nadra (iliyo na ADEME/Carbone 4) hufichua ~281,000 m³ kwa mafunzo + matumizi ya mapema na ukingo wa ~45 mL kwa tokeni 400 [2].

• Lengo la Microsoft la kupoeza bila maji
  Vituo vya data vya kizazi kijacho vimeundwa kutotumia maji kabisa kwa ajili ya kupoeza , vikitegemea mbinu za moja kwa moja hadi kwenye chipu; matumizi ya msimamizi bado yanahitaji maji [4].

• Kiwango cha kituo cha data cha jumla
  Waendeshaji wakuu huripoti hadharani mamia ya maelfu ya galoni kwa siku kwa wastani katika tovuti binafsi; hali ya hewa na nambari za kusukuma za muundo juu au chini [5].

• Msingi wa awali wa kitaaluma
  Uchambuzi muhimu wa "kiu ya akili bandia" ulikadiria mamilioni ya lita kufunza mifumo ya darasa la GPT, na kwamba majibu ya wastani ya 10-50 yanaweza kuwa sawa na ya mL 500 - inategemea sana wakati/mahali yanapoendeshwa [3].

Kwa nini makadirio hayakubaliani sana 🤷

• Mipaka tofauti
  Baadhi ya takwimu huhesabu baridi kwenye tovuti tu ; wengine huongeza maji ya umeme ; LCA zinaweza kuongeza utengenezaji wa chip . Tufaha, machungwa, na saladi ya matunda [2][3].

• Uzito tofauti wa kazi
  Kidokezo cha maandishi mafupi sio utendakazi wa aina nyingi/msimbo mrefu; batching, concurrency, na latency malengo hubadilisha matumizi [1][2].

• Hali ya hewa na gridi tofauti
  Upoaji unaoweza kuyeyuka katika eneo lenye joto na ukame ≠ upoaji hewa/kioevu katika sehemu yenye ubaridi na unyevunyevu. Nguvu ya maji ya gridi inatofautiana sana [3].

• Mbinu za wachuuzi
  Google ilichapisha mbinu ya kutoa huduma kwa mfumo mzima; Mistral alichapisha LCA rasmi. Wengine hutoa makadirio ya uhakika kwa njia chache. Dai la hadhi ya juu "moja ya kumi na tano ya kijiko cha chai" kwa kila swali lilifanya vichwa vya habari - lakini bila maelezo ya kikomo, haliwezi kulinganishwa [1][3].

• Lengo linalosonga
  Upoezaji unabadilika haraka. Microsoft inafanya majaribio ya kupoeza bila maji katika tovuti fulani; kusambaza hizi kutapunguza maji kwenye tovuti hata kama umeme wa mto bado unabeba ishara ya maji [4].

Unachoweza kufanya leo kupunguza alama ya maji ya AI 🌱

1. Saizi ya kulia ya muundo
   Miundo ndogo, iliyopangwa kazi mara nyingi hulingana na usahihi huku ikichoma kokotoo kidogo. Tathmini ya Mistral inasisitiza uwiano dhabiti wa ukubwa-kwa-nyayo - na huchapisha nambari za makisio za pambizo ili uweze kujadiliana kuhusu usuluhishi [2].

2. Chagua maeneo yanayotumia maji vizuri
   Pendelea maeneo yenye hali ya hewa ya baridi, upoezaji unaofaa, na gridi zenye kiwango cha chini cha maji kwa kila kWh; kazi ya "kiu ya AI" inaonyesha wa kujua wakati na mahali husaidia [3].

3. Hamisha mizigo ya kazi kwa wakati
   Ratibu mafunzo/maelekezo mazito ya bechi kwa saa zinazotumia maji vizuri (usiku wa baridi, hali nzuri ya gridi) [3].

4. Uliza muuzaji wako vipimo vya uwazi
   Mahitaji ya maji kwa kila wakati , ufafanuzi wa mipaka, na ikiwa nambari zinajumuisha uwezo wa kufanya kitu na uendeshaji wa kituo. Vikundi vya sera vinasukuma ufichuzi wa lazima ili kufanya ulinganisho wa tufaha na tufaha iwezekanavyo [3].

5. Mambo ya teknolojia ya kupoeza
   Ikiwa unaendesha maunzi, tathmini upoeshaji wa kitanzi-funge/moja kwa moja kwa chip ; ikiwa unatumia cloud, pendelea maeneo/watoa huduma wanaowekeza katika miundo ya mwanga wa maji [4][5].

6. Tumia maji ya kijivu na chaguzi za kutumia tena
   Kampasi nyingi zinaweza kubadilisha vyanzo visivyoweza kunyweka au kusaga tena ndani ya vitanzi; waendeshaji wakubwa huelezea kusawazisha vyanzo vya maji na chaguo za kupoeza ili kupunguza athari halisi [5].

Mfano wa haraka ili kuifanya iwe halisi (sio kanuni ya jumla): kuhamisha kazi ya mafunzo ya usiku mmoja kutoka eneo lenye joto, kavu katikati ya majira ya joto hadi eneo lenye baridi, lenye unyevunyevu zaidi katika majira ya kuchipua - na kuiendesha wakati wa kilele, saa za baridi - kunaweza kuhamisha kwenye tovuti na kiwango cha maji nje ya tovuti Hiyo ndiyo aina ya uratibu wa kimatendo, wa mchezo wa chini wa kushinda unaweza kufungua [3].

Jedwali la kulinganisha: chaguzi za haraka za kupunguza tozo ya maji ya AI 🧰

(“Bei” inabadilikabadilika kulingana na muundo - uwekaji hutofautiana.)

Kupiga mbizi kwa kina: mdundo wa sera unazidi kupaza 🥁

Mashirika ya uhandisi yanataka ufichuzi wa lazima wa nishati na maji ya kituo cha data ili wanunuzi na jamii waweze kutathmini gharama na manufaa. Mapendekezo yanajumuisha ufafanuzi wa upeo, kuripoti kwa kiwango cha tovuti na mwongozo wa tovuti - kwa sababu bila vipimo vinavyoweza kulinganishwa, vinavyofahamu eneo, tunabishana gizani [3].

Kupiga mbizi kwa kina: vituo vya data havinyweki kwa njia ile ile 🚰

Kuna hadithi inayoendelea kwamba "kupoeza hewa hakutumii maji." Sio kabisa. Mifumo ya hewa nzito mara nyingi inahitaji umeme zaidi , ambayo katika mikoa mingi hubeba maji yaliyofichwa kutoka kwenye gridi ya taifa; kinyume chake, kupoeza maji kunaweza kupunguza nguvu na uzalishaji kwa gharama ya maji kwenye tovuti. Waendeshaji wakubwa husawazisha kwa uwazi biashara hizi za tovuti-kwa-site [1][5].

Kupiga mbizi kwa kina: ukaguzi wa haraka wa ukweli kuhusu madai yanayotokana na virusi 🧪

Huenda umeona maneno mazito kwamba kidokezo kimoja ni sawa na “chupa ya maji,” au, kwa upande mwingine, “matone machache tu.” Mkao bora: unyenyekevu na hesabu . Hifadhi za leo zinazoaminika ni ~0.26 ml kwa haraka ya uzalishaji iliyo na huduma kamili ya ziada [1] na ~45mL kwa jibu la msaidizi la tokeni 400 (maelekezo ya pambizoni) [2]. yaliyoshirikiwa sana "moja ya kumi na tano ya kijiko" haina mipaka ya umma / mbinu; ichukue kama utabiri wa hali ya hewa bila jiji [1][3].

Maswali Machache Yanayoulizwa Mara kwa Mara: Je, akili bandia hutumia maji kiasi gani? tena, kwa Kiingereza rahisi 🗣️

• Kwa hivyo, niseme nini kwenye mkutano?
  "Kwa haraka, ni kati ya kushuka hadi kunywea mara chache , kulingana na mtindo, urefu na mahali inapotumika. Mafunzo huchukua madimbwi , wala si madimbwi." Kisha taja mfano mmoja au miwili hapo juu.

• Je, AI ni mbaya kipekee?
  Imejilimbikizia kipekee : chips zenye nguvu nyingi zilizopakiwa pamoja huunda mizigo mikubwa ya kupoeza. Lakini vituo vya data ndivyo pia ambapo teknolojia bora zaidi inaelekea kutua kwanza [1][4].

• Vipi tukihamisha kila kitu kwenye hewa ya kupoeza?
  Unaweza kupunguza kwenye eneo la kazi lakini ukaongeza nje ya eneo la kazi kupitia umeme. Waendeshaji wa kisasa wanapima zote mbili [1][5].

• Vipi kuhusu teknolojia ya siku zijazo?
  Miundo inayoepuka kupoeza maji kwa kiwango kikubwa ingekuwa mabadiliko makubwa kwa Wigo wa 1. Baadhi ya waendeshaji wanasonga hivi; umeme wa juu bado una mawimbi ya maji hadi gridi zibadilike [4].

Maneno ya Mwisho - Muda Mrefu, Sikuisoma 🌊

• Kwa haraka: fikiria mililita ndogo hadi makumi ya mililita , kulingana na mfano, urefu wa haraka, na wapi inaendeshwa. Kidokezo cha wastani ~0.26 mL kwenye rundo moja kuu; ~45mL kwa jibu la ishara 400 kwa lingine [1][2].

• Mafunzo: mamilioni ya lita kwa mifumo ya mipaka, na kufanya upangaji ratiba, upangaji, na teknolojia ya upoezaji kuwa muhimu [3].

• Cha kufanya: miundo ya ukubwa wa kulia, chagua maeneo yanayotumia maji, badilisha kazi nzito hadi saa za baridi, unapendelea wachuuzi wanaothibitisha miundo ya mwanga wa maji, na kudai mipaka yenye uwazi [1][3][4][5].

Sitiari yenye dosari kidogo ya kumalizia: AI ni orchestra yenye kiu - melody ni compute, lakini ngoma ni baridi na gridi ya maji. Rejesha bendi, na hadhira bado inapata muziki bila vinyunyuzizi kuzima. 🎻💦

Marejeleo

1. Google Cloud Blog - Je, AI ya Google hutumia nishati ngapi? Tulifanya hesabu (mbinu + ~ 0.26 mL ya haraka ya wastani, utoaji kamili wa juu). Kiungo
   (Karatasi ya Kiufundi PDF: Kupima athari ya kimazingira ya kutoa AI kwa kiwango cha Google .) Kiungo

2. Mistral AI - Mchango wetu kwa kiwango cha kimataifa cha mazingira kwa AI (LCA yenye ADEME/Carbone 4; ~281,000 m³ mafunzo + matumizi ya mapema; ~45 ml kwa kila tokeni 400 , makisio ya kando). Kiungo

3. Li et al. - Kupunguza AI ya "Kiu": Kufunua na Kushughulikia Alama ya Siri ya Maji ya Miundo ya AI (kufundisha mamilioni ya lita , ya kufahamu wakati na mahali , uondoaji dhidi ya matumizi). Kiungo

4. Microsoft - Wakala wa data wa kizazi kijacho hutumia maji sufuri kwa kupoeza (miundo ya moja kwa moja hadi kwenye chip inayolenga upoaji usio na maji kwenye tovuti fulani). Kiungo

5. Vituo vya Data vya Google - Hufanya kazi kwa uendelevu (mabadiliko ya kupozea tovuti kwa tovuti; kuripoti na kutumia tena, ikiwa ni pamoja na kurejeshwa/kunywa maji ya kijivu; maagizo ya kawaida ya matumizi ya kila siku ya kiwango cha tovuti). Kiungo

Pata AI ya Hivi Punde kwenye Duka Rasmi la Msaidizi wa AI

Kuhusu Sisi