AI hutumia Nishati ngapi?

Jibu: AI inaweza kutumia umeme mdogo sana kwa kazi rahisi ya maandishi, lakini zaidi wakati vidokezo ni virefu, matokeo ni ya modal nyingi, au mifumo hufanya kazi kwa kiwango kikubwa. Mafunzo kwa kawaida ndiyo nishati kuu inayopatikana mapema, huku hitimisho la kila siku likiwa muhimu kadri maombi yanavyojikusanya.

Mambo muhimu ya kuzingatia:

Muktadha: Fafanua kazi, modeli, vifaa, na kipimo kabla ya kunukuu makadirio yoyote ya nishati.

Mafunzo: Chukua mafunzo ya kielelezo kama tukio kuu la nishati ya awali unapopanga bajeti.

Uamuzi: Tazama uamuzi unaorudiwa kwa makini, kwa sababu gharama ndogo kwa kila ombi huongezeka haraka kwa kiwango.

Miundombinu: Jumuisha upoezaji, hifadhi, mitandao, na uwezo wa kutofanya kazi katika makadirio yoyote halisi.

Ufanisi: Tumia mifumo midogo, vidokezo vifupi, uhifadhi wa data, na upangaji wa data kwa makundi ili kupunguza matumizi ya nishati.

Makala ambazo unaweza kupenda kusoma baada ya hii:

🔗 Jinsi AI inavyoathiri mazingira
Inaelezea athari za kaboni za AI, matumizi ya nishati, na mabadilishano endelevu.

🔗 Je, AI ni mbaya kwa mazingira?
Hufichua gharama zilizofichwa za kimazingira za mifumo ya akili bandia na vituo vya data.

🔗 Je, akili bandia (AI) ni nzuri au mbaya? Faida na hasara
Mtazamo uliosawazishwa wa faida, hatari, maadili, na athari halisi za AI.

🔗 AI ni nini? Mwongozo rahisi
Jifunze misingi ya AI, maneno muhimu, na mifano ya kila siku kwa dakika.

Kwa nini swali hili ni muhimu zaidi kuliko watu wanavyofikiria 🔍

Matumizi ya nishati ya akili bandia (AI) si tu sehemu ya mazungumzo ya kimazingira. Inagusa mambo machache halisi:

• Gharama ya umeme - hasa kwa biashara zinazoendesha maombi mengi ya akili bandia (AI)

• Athari ya kaboni - kulingana na chanzo cha umeme kilicho nyuma ya seva

• Mkazo wa vifaa - chipsi zenye nguvu huvuta nguvu kubwa

• Maamuzi ya kuongeza ukubwa - ombi moja la bei rahisi linaweza kugeuka kuwa mamilioni ya gharama kubwa

• Ubunifu wa bidhaa - ufanisi mara nyingi ni sifa bora kuliko watu wanavyotambua (Google Cloud, Green AI)

Watu wengi huuliza "AI hutumia Nishati ngapi?" kwa sababu wanataka nambari ya kusisimua. Kitu kikubwa. Kitu kinachofaa vichwa vya habari. Lakini swali bora zaidi ni hili: Ni aina gani ya matumizi ya AI tunayozungumzia? Kwa sababu hiyo hubadilisha kila kitu. (IEA)

Pendekezo moja la kukamilisha kiotomatiki? Ndogo sana.
Kufundisha mfumo wa mpaka katika makundi makubwa? Kubwa zaidi.
Mtiririko wa kazi wa AI wa biashara unaoendelea kuwaka unaogusa mamilioni ya watumiaji? Ndiyo, hilo linaongezeka haraka... kama senti zinazogeuka kuwa malipo ya kodi. (DOE, Google Cloud)

Je, akili bandia hutumia nishati ngapi? Jibu fupi ⚡

Hapa kuna toleo la vitendo.

AI inaweza kutumia popote kuanzia sehemu ndogo ya saa ya wati kwa kazi nyepesi hadi kiasi kikubwa cha umeme kwa ajili ya mafunzo na uenezaji mkubwa. Kiwango hicho kinasikika kuwa pana kwa sababu ni kikubwa. (Google Cloud, Strubell et al.)

Kwa ufupi:

• Kazi rahisi za kukisia - mara nyingi huwa ndogo kwa kila matumizi

• Mazungumzo marefu, matokeo makubwa, utengenezaji wa picha, utengenezaji wa video - inayoonekana kutumia nishati zaidi

• Kufundisha wanamitindo wakubwa - bingwa mzito wa matumizi ya nguvu

• Kuendesha AI kwa kiwango siku nzima - ambapo "kidogo kwa kila ombi" kinakuwa "bili kubwa ya jumla" (Google Cloud, DOE)

Kanuni nzuri ya kidole gumba ni hii:

• Mafunzo ni tukio kubwa la nishati ya awali 🏭

• Uamuzi ni bili ya matumizi inayoendelea 💡 (Strubell et al., Utafiti wa Google)

Kwa hivyo mtu anapouliza, AI hutumia Nishati ngapi?,jibu la moja kwa moja ni, "Sio kiasi kimoja - lakini inatosha kwamba ufanisi ni muhimu, na kiwango hicho kinatosha kubadilisha hadithi nzima." (IEA, Green AI)

Hilo si jambo la kuvutia kama watu wanavyotaka, najua. Lakini ni kweli.

Ni nini kinachofanya toleo zuri la makadirio ya nishati ya akili bandia (AI) kuwa toleo zuri? 🧠

Makadirio mazuri si nambari ya kusisimua tu inayorushwa kwenye mchoro. Makadirio ya vitendo yanajumuisha muktadha. Vinginevyo ni kama kupima ukungu kwa kutumia mizani ya bafuni. Karibu vya kutosha kusikika kuvutia, sio karibu vya kutosha kuamini. (IEA, Google Cloud)

Makadirio mazuri ya nishati ya AI yanapaswa kujumuisha:

• Aina ya kazi - maandishi, picha, sauti, video, mafunzo, urekebishaji

• Ukubwa wa modeli - modeli kubwa kwa kawaida huhitaji hesabu zaidi

• Vifaa vilivyotumika - si chipsi zote zinazofaa kwa usawa

• Urefu wa kipindi - vidokezo vifupi na mtiririko mrefu wa kazi wa hatua nyingi ni tofauti sana

• Matumizi - mifumo isiyofanya kazi bado hutumia umeme

• Upoezaji na miundombinu - seva sio bili nzima

• Eneo na mchanganyiko wa nishati - umeme si safi sawa kila mahali (Google Cloud, IEA)

Hii ndiyo sababu watu wawili wanaweza kubishana kuhusu matumizi ya umeme wa AI na wote wawili wanasikika wakiwa na ujasiri huku wakizungumzia mambo tofauti kabisa. Mtu mmoja anamaanisha jibu moja la chatbot. Mwingine anamaanisha mafunzo makubwa. Wote wawili wanasema "AI," na ghafla mazungumzo yanapotea 😅

Jedwali la Ulinganisho - njia bora za kukadiria matumizi ya nishati ya akili bandia 📊

Hapa kuna jedwali la vitendo kwa yeyote anayejaribu kujibu swali bila kuligeuza kuwa sanaa ya maonyesho.

Zana au mbinu	Hadhira bora	Bei	Kwa nini inafanya kazi
Makadirio rahisi ya kanuni ya kidole gumba	Wasomaji wadadisi, wanafunzi	Bure	Haraka, rahisi, na ya kutatanisha kidogo - lakini yanafaa kwa kulinganisha kwa ukali
Kipima wati cha upande wa kifaa	Wajenzi wa peke yao, wapenzi wa burudani	Chini	Hupima mchoro halisi wa mashine, ambao ni halisi kwa kuburudisha
Dashibodi ya telemetri ya GPU	Wahandisi, timu za ML	Kati	Maelezo bora zaidi kuhusu kazi nzito za hesabu, ingawa inaweza kukosa gharama kubwa zaidi za uendeshaji
Malipo ya wingu + kumbukumbu za matumizi	Kampuni changa, timu za uendeshaji	Kati hadi juu	Huunganisha matumizi ya akili bandia (AI) na matumizi halisi - si kamili, bado ina thamani kubwa
Kuripoti nishati ya kituo cha data	Timu za biashara	Juu	Hutoa mwonekano mpana zaidi wa uendeshaji, ubaridi na miundombinu kuanza kuonekana hapa
Tathmini kamili ya mzunguko wa maisha	Timu za uendelevu, mashirika makubwa	Kuongezeka kwa joto, wakati mwingine kuuma	Bora kwa uchambuzi wa kina kwa sababu inazidi chip yenyewe... lakini ni polepole na ni kama mnyama

Hakuna njia kamili. Hiyo ndiyo sehemu inayokatisha tamaa kidogo. Lakini kuna viwango vya thamani. Na kwa kawaida, kitu kinachoweza kutumika hushinda kikamilifu. (Google Cloud)

Jambo kubwa zaidi si uchawi - ni hesabu na vifaa 🖥️🔥

Watu wanapofikiria matumizi ya nishati ya akili bandia (AI), mara nyingi hufikiria mfumo wenyewe kama kitu kinachotumia nguvu. Lakini mfumo huo ni mantiki ya programu inayoendeshwa kwenye vifaa. Vifaa ndipo bili ya umeme inapoonekana. (Strubell et al., Google Cloud)

Vigezo vikubwa zaidi kwa kawaida hujumuisha:

• GPU au aina ya kichochezi

• Chipsi ngapi hutumika

• Muda gani wanaendelea kufanya kazi

• Mzigo wa kumbukumbu

• Ukubwa wa kundi na matokeo

• Ikiwa mfumo umeboreshwa vizuri au unalazimisha kila kitu kwa nguvu (Google Cloud, Quantization, Batching, and Serving Strategies in LLM Energy Use)

Mfumo ulioboreshwa sana unaweza kufanya kazi zaidi kwa kutumia nishati kidogo. Mfumo mbovu unaweza kupoteza umeme kwa kujiamini sana. Unajua jinsi ilivyo - baadhi ya vifaa ni magari ya mbio, baadhi ni magari ya ununuzi yenye mikokoteni ya roketi iliyofungwa 🚀🛒

Na ndiyo, ukubwa wa modeli ni muhimu. Mifumo mikubwa huwa inahitaji kumbukumbu zaidi na hesabu zaidi, hasa wakati wa kutoa matokeo marefu au kushughulikia hoja changamano. Lakini mbinu za ufanisi zinaweza kubadilisha picha: (Akili ya Kijani, Upimaji, Mikakati ya Kuunganisha, na Kuhudumia katika Matumizi ya Nishati ya LLM)

• upimaji

• uelekezaji bora

• mifano midogo ya wataalamu

• hifadhi ya akiba

• kupanga

• Upangaji wa vifaa nadhifu zaidi (Upimaji, Kuunganisha, na Mikakati ya Kuhudumia katika Matumizi ya Nishati ya LLM)

Kwa hivyo swali si tu "Je, modeli hiyo ina ukubwa gani?" Pia ni "Inaendeshwa kwa busara kiasi gani?"

Mafunzo dhidi ya utabiri - hawa ni wanyama tofauti 🐘🐇

Huu ndio mgawanyiko unaowachanganya karibu kila mtu.

Mafunzo

Mafunzo ni wakati modeli inapojifunza mifumo kutoka kwa seti kubwa za data. Inaweza kuhusisha chipsi nyingi zinazoendeshwa kwa muda mrefu, zikitafuna kiasi kikubwa cha data. Hatua hii inatafuta nishati nyingi. Wakati mwingine ni kali sana. (Strubell et al.)

Nishati ya mafunzo inategemea:

• ukubwa wa modeli

• ukubwa wa seti ya data

• idadi ya mazoezi

• majaribio yaliyoshindwa

• pasi za kurekebisha

• ufanisi wa vifaa

• Upana wa juu wa kupoeza (Strubell et al., Utafiti wa Google)

Na hii ndiyo sehemu ambayo watu mara nyingi hukosa - umma mara nyingi hufikiria mafunzo moja makubwa, yakifanywa mara moja, mwisho wa hadithi. Kwa vitendo, maendeleo yanaweza kuhusisha kurudia kurudia, kurekebisha, kutoa mafunzo upya, tathmini, na marudio yote ya prosaic lakini ya gharama kubwa karibu na tukio kuu. (Strubell et al., Green AI)

Ufafanuzi

Ufafanuzi ni mfumo unaojibu maombi halisi ya mtumiaji. Ombi moja linaweza lisionekane kama mengi. Lakini ufafanuzi hutokea mara kwa mara. Mara milioni. Wakati mwingine mabilioni. (Utafiti wa Google, DOE)

Nishati ya hitimisho inakua na:

• urefu wa kidokezo

• urefu wa matokeo

• idadi ya watumiaji

• mahitaji ya kuchelewa

• vipengele vya moduli nyingi

• matarajio ya muda wa kazi

• Hatua za Usalama na Baada ya Kuchakata (Google Cloud, Upimaji, Mikakati ya Kuunganisha, na Kuhudumia katika Matumizi ya Nishati ya LLM)

Kwa hivyo mafunzo ni tetemeko la ardhi. Hitimisho ni wimbi. Moja ni la kusisimua, moja ni endelevu, na zote mbili zinaweza kubadilisha umbo la pwani kidogo. Labda ni sitiari isiyo ya kawaida, lakini inashikamana... kwa kiasi fulani.

Gharama za nishati zilizofichwa ambazo watu husahau 😬

Mtu anapokadiria matumizi ya nguvu ya akili bandia kwa kuangalia tu chipu, kwa kawaida huwa anahesabu chini ya kiwango. Sio kila wakati kwa bahati mbaya, lakini inatosha kuwa muhimu. (Google Cloud, IEA)

Hapa kuna vipande vilivyofichwa:

Kupoa ❄️

Seva hutoa joto. Vifaa vyenye nguvu vya akili bandia (AI) hutoa joto nyingi. Kupoeza si jambo la hiari. Kila wati inayotumiwa na hesabu huelekea kukaribisha matumizi zaidi ya nishati ili tu kuweka halijoto sawa. (IEA, Google Cloud)

Mwendo wa data 🌐

Kuhamisha data kwenye hifadhi, kumbukumbu, na mitandao pia kunahitaji nishati. AI si "kufikiri tu." Pia ni kuchanganya taarifa kila mara. (IEA)

Uwezo wa kufanya kazi 💤

Mifumo iliyojengwa kwa ajili ya mahitaji ya juu si mara zote inafanya kazi kwa mahitaji ya juu. Miundombinu isiyotumika vizuri au isiyotumika kikamilifu bado hutumia umeme. (Google Cloud)

Upungufu na uaminifu 🧱

Hifadhi nakala rudufu, mifumo ya kushindwa, maeneo yanayorudiwa, tabaka za usalama - zote ni muhimu, zote ni sehemu ya picha kubwa ya nishati. (IEA)

Hifadhi 📦

Data ya mafunzo, upachikaji, kumbukumbu, vituo vya ukaguzi, matokeo yanayozalishwa - haya yote yanaishi mahali fulani. Hifadhi ni ya bei nafuu kuliko hesabu, hakika, lakini si bure katika suala la nishati. (IEA)

Hii ndiyo sababu AI hutumia Nishati ngapi? haiwezi kujibiwa vizuri kwa kutazama chati moja ya kipimo. Mrundiko kamili ni muhimu. (Google Cloud, IEA)

Kwa nini kidokezo kimoja cha AI kinaweza kuwa kidogo - na kinachofuata kinaweza kuwa mnyama 📝➡️🎬

Sio vidokezo vyote vinavyoundwa sawa. Ombi fupi la kuandika upya sentensi halilingani na kuomba uchambuzi mrefu, kipindi cha usimbaji wa hatua nyingi, au utengenezaji wa picha zenye ubora wa juu. (Google Cloud)

Mambo ambayo huwa yanaongeza matumizi ya nishati kwa kila mwingiliano:

• Madirisha marefu ya muktadha

• Majibu marefu zaidi

• Hatua za matumizi na urejeshaji wa zana

• Kupitisha mara nyingi kwa hoja au uthibitisho

• Uundaji wa picha, sauti, au video

• Uwiano wa juu wa sarafu

• Malengo ya chini ya muda wa kusubiri (Wingu la Google, Upimaji, Mikakati ya Kuunganisha, na Kuhudumia katika Matumizi ya Nishati ya LLM)

Jibu la maandishi mepesi linaweza kuwa nafuu kiasi. Mtiririko mkubwa wa kazi wa aina nyingi unaweza kuwa, sawa, si rahisi. Ni kama kuagiza kahawa dhidi ya kuhudumia harusi. Vyote viwili vinahesabiwa kama "huduma ya chakula," kitaalamu. Kimoja si kama kingine ☕🎉

Hili ni muhimu kwa timu za bidhaa hasa. Kipengele ambacho kinaonekana kuwa hakina madhara kwa matumizi ya chini kinaweza kuwa ghali kwa kiwango kikubwa ikiwa kila kipindi cha mtumiaji kitakuwa kirefu, chenye utajiri zaidi, na chenye hesabu nyingi zaidi. (DOE, Google Cloud)

AI ya watumiaji na AI ya biashara si kitu kimoja 🏢📱

Mtu wa kawaida anayetumia akili bandia (AI) kwa kawaida anaweza kudhani kwamba taharuki zake za mara kwa mara ndizo tatizo kubwa. Kwa kawaida, hapo si ndipo hadithi kuu ya nishati inapoishi. (Google Cloud)

Matumizi ya biashara hubadilisha hesabu:

• maelfu ya wafanyakazi

• marubani wasaidizi wanaofanya kazi kila wakati

• usindikaji wa hati kiotomatiki

• muhtasari wa simu

• uchanganuzi wa picha

• zana za ukaguzi wa msimbo

• mawakala wa mandharinyuma wanaofanya kazi kila wakati

Hapo ndipo matumizi ya nishati ya jumla yanaanza kuwa muhimu sana. Sio kwa sababu kila kitendo ni cha mwisho wa dunia, bali kwa sababu marudio ni kizidishi. (DOE, IEA)

Katika majaribio yangu mwenyewe na mapitio ya mtiririko wa kazi, hapa ndipo watu hushangaa. Wanazingatia jina la modeli, au onyesho la kuvutia, na kupuuza sauti. Sauti mara nyingi ndiyo kichocheo halisi - au neema ya kuokoa, kulingana na kama unawalipa wateja au unalipa kichupo cha huduma 😅

Kwa watumiaji, athari inaweza kuhisiwa kuwa ya kufikirika. Kwa biashara, inakuwa dhahiri haraka sana:

• bili kubwa za miundombinu

• shinikizo zaidi ili kuboresha

• hitaji kubwa zaidi la mifumo midogo inapowezekana

• ripoti ya uendelevu wa ndani

• umakini zaidi katika kuhifadhi na kuelekeza (Google Cloud, Green AI)

Jinsi ya kupunguza matumizi ya nishati ya AI bila kuacha AI 🌱

Sehemu hii ni muhimu kwa sababu lengo si "kuacha kutumia akili bandia." Kwa kawaida hilo si jambo la kweli, na hata si lazima. Matumizi bora ndiyo njia nadhifu.

Hapa kuna vichocheo vikubwa zaidi:

1. Tumia mfumo mdogo zaidi unaokamilisha kazi

Sio kila kazi inayohitaji chaguo la uzito mzito. Mfano mwepesi wa uainishaji au muhtasari unaweza kupunguza upotevu haraka. (Green AI, Google Cloud)

2. Fupisha vidokezo na matokeo

Kuingiza kwa sauti, kutoa kwa sauti. Tokeni za ziada humaanisha hesabu ya ziada. Wakati mwingine kupunguza kidokezo ndio ushindi rahisi zaidi. (Upimaji, Kuunganisha, na Mikakati ya Kuhudumia katika Matumizi ya Nishati ya LLM, Google Cloud)

3. Matokeo yanayorudiwa ya akiba

Ikiwa swali lile lile linaendelea kuonekana, usilizalishe upya kila wakati. Hili ni dhahiri sana, lakini linakosekana. (Google Cloud)

4. Kazi za kundi inapowezekana

Kuendesha kazi kwa makundi kunaweza kuboresha matumizi na kupunguza upotevu. (Upimaji, Kuunganisha, na Mikakati ya Kuhudumia katika Matumizi ya Nishati ya LLM)

5. Kuelekeza kazi kwa busara

Tumia mifumo mikubwa tu wakati kujiamini kunapungua au ugumu wa kazi unapoongezeka. (Green AI, Google Cloud)

6. Boresha miundombinu

Ratiba bora, vifaa bora, mkakati bora wa kupoeza - mambo ya prosaic, faida kubwa. (Google Cloud, DOE)

7. Pima kabla ya kudhani

Timu nyingi hufikiri zinajua nguvu inaenda wapi. Kisha hupima, na hapo ndipo - sehemu ya gharama kubwa iko mahali pengine. (Google Cloud)

Kazi ya ufanisi si ya kupendeza. Mara chache hupongezwa. Lakini ni mojawapo ya njia bora za kufanya akili bandia iwe nafuu zaidi na iweze kutetewa zaidi kwa kiwango kikubwa 👍

Hadithi za kawaida kuhusu matumizi ya umeme wa akili bandia 🚫

Hebu tuondoe hadithi chache za uongo kwa sababu mada hii inachanganyikiwa haraka.

Hadithi ya 1 - Kila swali la AI ni la kupoteza pesa nyingi

Sio lazima. Baadhi ni ya kawaida. Kiwango na aina ya kazi ni muhimu sana. (Google Cloud)

Hadithi ya 2 - Mafunzo ndiyo kitu pekee muhimu

Hapana. Ukadiriaji unaweza kutawala baada ya muda wakati matumizi ni makubwa. (Utafiti wa Google, DOE)

Hadithi ya 3 - Mfano mkubwa daima humaanisha matokeo bora zaidi

Wakati mwingine ndiyo, wakati mwingine sivyo kabisa. Kazi nyingi hufanya kazi vizuri na mifumo midogo. (Akili ya Kijani)

Hadithi ya 4 - Matumizi ya nishati ni sawa na athari ya kaboni kiotomatiki

Sio hasa. Kaboni inategemea chanzo cha nishati pia. (IEA, Strubell et al.)

Hadithi ya 5 - Unaweza kupata nambari moja ya ulimwengu kwa matumizi ya nishati ya akili bandia

Huwezi, angalau si katika umbo linalobaki na maana. Au unaweza, lakini litapimwa kwa wastani kiasi kwamba halitakuwa na thamani. (IEA)

Hii ndiyo sababu kuuliza Je, AI hutumia Nishati ngapi? ni jambo la busara - lakini tu ikiwa uko tayari kwa jibu la tabaka badala ya kauli mbiu.

Kwa hivyo... ni kiasi gani cha Nishati ambacho AI hutumia, kweli? 🤔

Hapa kuna hitimisho la msingi.

Matumizi ya AI:

• kidogo, kwa kazi rahisi

• mengi zaidi, kwa ajili ya uzalishaji mkubwa wa mifumo mingi

• kiasi kikubwa sana, kwa ajili ya mafunzo makubwa ya modeli

• kiasi kikubwa kwa jumla, wakati mamilioni ya maombi yanaporundikana baada ya muda (Google Cloud, DOE)

Hiyo ndiyo umbo lake.

Jambo muhimu si kuipunguza suala zima kuwa nambari moja ya kutisha au kuinua mabega kwa njia isiyo ya kawaida. Matumizi ya nishati ya akili bandia ni halisi. Ni muhimu. Inaweza kuboreshwa. Na njia bora ya kuizungumzia ni kwa muktadha, si kwa tamthilia. (IEA, Green AI)

Mazungumzo mengi ya umma hubadilika-badilika kati ya mambo yaliyokithiri - "AI kimsingi ni bure" kwa upande mmoja, "AI ni apocalypse ya umeme" kwa upande mwingine. Ukweli ni wa kawaida zaidi, jambo linaloufanya uwe wa kuelimisha zaidi. Ni tatizo la mifumo. Vifaa, programu, matumizi, ukubwa, upoezaji, chaguzi za muundo. Prosaic? Kidogo. Muhimu? Sana. (IEA, Google Cloud)

Mambo muhimu ya kuzingatia ⚡🧾

Kama ungekuja hapa ukiuliza, akili bandia hutumia nishati ngapi?, haya ndiyo maelezo ya ziada:

• Hakuna nambari inayolingana na yote kwa ukubwa mmoja

• Mafunzo kwa kawaida hutumia nguvu nyingi zaidi mapema

• Uamuzi unakuwa jambo kuu katika kiwango

• Ukubwa wa modeli, vifaa, mzigo wa kazi, na upoezaji vyote ni muhimu

• Uboreshaji mdogo unaweza kuleta tofauti kubwa ya kushangaza

• Swali la busara zaidi si tu "kiasi gani," bali pia "kwa kazi gani, kwa mfumo gani, kwa kiwango gani?" (IEA, Google Cloud)

Kwa hivyo ndiyo, AI hutumia nishati halisi. Inatosha kustahili kuzingatiwa. Inatosha kuhalalisha uhandisi bora. Lakini si kwa njia ya katuni, ya nambari moja.

Mfano halisi: Kupima gharama ya nishati ya msaidizi wa usaidizi wa akili bandia

Hali

Hebu fikiria kampuni ndogo ya SaaS inayotumia msaidizi wa akili bandia kuandika majibu ya tiketi za usaidizi kwa wateja. Huu ni mfano wa kubuni lakini wa kweli, si utafiti wa kesi wa kampuni.

Timu hiyo hushughulikia takriban tiketi 500 za usaidizi kila wiki. Nyingi ni rahisi: kuweka upya nywila, maswali ya bili, maelezo ya vipengele, na utatuzi wa msingi wa matatizo. Kampuni haitaki msaidizi atume majibu kiotomatiki. Huandaa majibu kwa wakala wa usaidizi wa kibinadamu ili kuyapitia.

Swali la nishati si, "Akili bandia (AI) hutumia kiasi gani kwa ujumla?" Ni la vitendo zaidi:

"Tunaunda hesabu ngapi za ziada kwa kuongeza AI kwenye mtiririko huu wa kazi, na tunaweza kuipunguza bila kuathiri ubora?"

Kile ambacho msaidizi anahitaji

Timu ingeanza na:

Msingi safi wa maarifa wa kituo cha usaidizi

Orodha ya sheria zilizoidhinishwa za kurejesha pesa, faragha, na ongezeko la bei

Mifano 20-30 ya majibu thabiti ya usaidizi wa zamani

Maagizo yaliyo wazi kwamba msaidizi lazima aandike, si kutuma

Kumbukumbu za matumizi ya wingu au kumbukumbu za matumizi ya API ya mfano

Lahajedwali rahisi ya kufuatilia aina ya tiketi, urefu wa kidokezo, urefu wa matokeo, muda wa ukaguzi, na kama jibu lilikubaliwa

Kipengele muhimu ni kipimo. Bila kumbukumbu, timu inakisia tu.

Mfano wa maelekezo

Wewe ni msaidizi wa usaidizi wa uandishi wa bidhaa ya SaaS. Tumia tu maudhui ya kituo cha usaidizi yaliyoidhinishwa na maelezo ya sera yaliyotolewa. Andika jibu wazi na la heshima kwa chini ya maneno 180. Ikiwa mteja anaomba kurejeshewa pesa, kufutwa kwa akaunti, ushauri wa kisheria, maelezo ya usalama, au chochote ambacho hakijafunikwa kwenye hati, usijibu moja kwa moja. Weka alama kwa ajili ya ukaguzi wa kibinadamu na ueleze ni taarifa gani inayokosekana.

Kabla ya kuandika jibu, ainisha tiketi kama: rahisi, nyeti kwa sera, kiufundi, au ongezeko linalohitajika.

Jinsi ya kuijaribu

Timu inaweza kumjaribu msaidizi kwenye tiketi 50 zilizopita kabla ya kuitumia moja kwa moja.

Seti rahisi ya majaribio inaweza kujumuisha:

Tikiti 10 za nenosiri au kuingia

Tikiti 10 za malipo

Tikiti 10 za utatuzi wa kiufundi

Ujumbe 10 wa wateja usioeleweka au usio kamili

Tikiti 10 nyeti kwa sera zinazohusisha marejesho ya pesa, faragha, au kufungwa kwa akaunti

Kwa kila tiketi, timu inapaswa kurekodi:

Je, rasimu hiyo ilikuwa sahihi?

Je, ilitumia taarifa zilizoidhinishwa pekee?

Je, ilibaki chini ya kikomo cha maneno?

Je, iliweka alama kwa usahihi kwenye kesi nyeti?

Mwakilishi wa kibinadamu alitumia muda gani kuihariri?

Mtiririko wa kazi ulitumia tokeni au maombi mangapi?

Hii inaipa timu kitu halisi cha kulinganisha badala ya kutegemea mawazo.

Matokeo

Matokeo ya kielelezo: Kulingana na muda wa tiketi 50 za sampuli kabla na baada ya kutumia mtiririko wa kazi, timu inakadiria kuwa wastani wa muda wa rasimu ya kwanza huanguka kutoka dakika 6 kwa kila tiketi hadi dakika 2 kwa kila tiketi.

Kwa tiketi 500 kwa wiki, hiyo inaokoa takriban dakika 2,000, au takriban saa 33 za muda wa kuandikishwa.

Lakini kumbukumbu pia zinaonyesha kitu muhimu: 38% ya tiketi ni marudio rahisi. Kwa kuhifadhi majibu yaliyoidhinishwa kwa maswali haya yanayojirudia badala ya kurejesha kila rasimu kuanzia mwanzo, timu inapunguza maombi ya AI kutoka 500 kwa wiki hadi 310 kwa wiki.

Hiyo ni punguzo la 38% katika wito wa makadirio ya kila wiki kwa mtiririko huu wa kazi, bila kuondoa kipengele cha AI.

Timu inaweza kuthibitisha hili kwa kulinganisha:

Jumla ya maombi ya AI ya kila wiki kabla na baada ya kuhifadhi kwenye hifadhidata

Urefu wa wastani wa kidokezo na matokeo

Kiwango cha kukubalika kwa binadamu

Idadi ya ongezeko lililopatikana kwa usahihi

Saidia alama za ubora au hesabu za marekebisho

Akiba halisi ya umeme bado itategemea mfumo, vifaa, mtoa huduma, na miundombinu. Lakini upunguzaji wa mzigo wa kazi wenyewe unaweza kupimika.

Ni nini kinachoweza kwenda vibaya

Msaidizi anaweza kujibu maswali ya sera kupita kiasi ikiwa sheria za uongezaji wa bei si wazi.

Nyaraka ndefu za kituo cha usaidizi zinaweza kuongeza urefu wa haraka ikiwa mpangilio wa urejeshaji hauna muundo mzuri.

Mawakala wanaweza kuamini rasimu fasaha haraka sana na kukosa makosa madogo.

Kuhifadhi data kunaweza kuwa hatari ikiwa sera za zamani za kurejeshewa pesa, bei, au faragha zitabaki kutumika.

Timu inaweza kuboresha tokeni chache huku ikitoa majibu yasiyo na manufaa mengi kwa bahati mbaya.

Toleo salama zaidi huweka wanadamu katika hali ya kawaida, hupima majibu yanayokubalika, na hupitia majibu yaliyohifadhiwa wakati wowote sera zinapobadilika.

Kuchukua kwa vitendo

Makadirio ya nishati ya AI yenye sauti huanza na mtiririko halisi wa kazi. Hesabu maombi, fupisha vidokezo, hifadhi majibu yanayorudiwa, na pima ubora wa mapitio. Hiyo hubadilisha "AI hutumia nishati ngapi?" kutoka mjadala usioeleweka hadi swali la uhandisi la vitendo lenye nambari ambazo timu inaweza kuboresha katika utendaji.

Maswali Yanayoulizwa Mara kwa Mara

Je, AI hutumia nishati ngapi kwa kidokezo kimoja?

Hakuna nambari ya jumla kwa kidokezo kimoja, kwa sababu matumizi ya nishati hutegemea modeli, vifaa, urefu wa kidokezo, urefu wa matokeo, na matumizi yoyote ya ziada ya zana yanayohusika. Jibu fupi la maandishi linaweza kuwa la kawaida, huku kazi ndefu ya multimodal inaweza kuchukua zaidi. Jibu lenye maana zaidi si kichwa kimoja cha habari, bali muktadha unaozunguka kazi hiyo.

Kwa nini makadirio ya matumizi ya nguvu za AI hutofautiana sana?

Makadirio hutofautiana kwa sababu watu mara nyingi hulinganisha vitu tofauti sana chini ya lebo moja ya AI. Makadirio moja yanaweza kuelezea jibu jepesi la chatbot, huku lingine likihusu utengenezaji wa picha, video, au mafunzo ya modeli kwa kiwango kikubwa. Ili makadirio yawe na maana, yanahitaji muktadha kama vile aina ya kazi, ukubwa wa modeli, vifaa, matumizi, upoezaji, na eneo.

Je, mafunzo ya AI au kuendesha AI kila siku ndiyo gharama kubwa ya nishati?

Mafunzo kwa kawaida ni tukio kubwa la nishati ya awali, kwa sababu yanaweza kuhusisha chipsi nyingi zinazoendeshwa kwa muda mrefu katika seti kubwa za data. Uamuzi ni gharama inayoendelea inayoonekana kila wakati watumiaji wanapotuma maombi, na kwa kiwango kikubwa inaweza pia kuwa kubwa sana. Kiutendaji, zote mbili ni muhimu, ingawa zina umuhimu kwa njia tofauti.

Ni nini kinachofanya ombi moja la AI litumie nishati nyingi zaidi kuliko lingine?

Madirisha marefu ya muktadha, matokeo marefu, kupitisha hoja mara kwa mara, simu za zana, hatua za kurejesha data, na uzalishaji wa mifumo mingi yote huwa yanaongeza matumizi ya nishati kwa kila mwingiliano. Malengo ya kuchelewa pia ni muhimu, kwa sababu mahitaji ya majibu ya haraka yanaweza kupunguza ufanisi. Ombi dogo la kuandika upya na mtiririko mrefu wa msimbo au picha hayalinganishwi.

Ni gharama gani za nishati zilizofichwa ambazo watu hukosa wanapouliza ni kiasi gani cha nishati AI hutumia?

Watu wengi huzingatia chipu pekee, lakini hilo hupuuza upoezaji, uhamishaji wa data, uhifadhi, uwezo wa kutofanya kazi, na mifumo ya kutegemewa kama vile chelezo au maeneo ya kushindwa. Tabaka hizi zinazounga mkono zinaweza kubadilisha kwa kiasi kikubwa alama ya jumla. Ndiyo maana kipimo pekee mara chache hunasa picha kamili ya nishati.

Je, modeli kubwa ya AI hutumia nishati zaidi kila wakati?

Mifumo mikubwa kwa kawaida huhitaji hesabu na kumbukumbu zaidi, hasa kwa matokeo marefu au magumu, kwa hivyo mara nyingi hutumia nishati zaidi. Lakini kubwa haimaanishi kiotomatiki kuwa bora kwa kila kazi, na uboreshaji unaweza kubadilisha picha sana. Mifumo midogo ya kitaalamu, upimaji, upangaji, uhifadhi wa data, na uelekezaji bora zaidi vyote vinaweza kuboresha ufanisi.

Je, matumizi ya AI ya watumiaji ndiyo tatizo kuu la nishati, au AI ya biashara ndiyo tatizo kubwa zaidi?

Matumizi ya kawaida ya watumiaji yanaweza kuongeza, lakini hadithi kubwa ya nishati mara nyingi huonekana katika utumaji wa biashara. Marubani wa nakala wanaofanya kazi kila wakati, usindikaji wa hati, muhtasari wa simu, mapitio ya msimbo, na mawakala wa usuli huunda mahitaji yanayorudiwa katika watumiaji wengi. Suala kwa kawaida huwa si kuhusu kitendo kimoja cha kushtukiza bali zaidi kuhusu ujazo endelevu baada ya muda.

Je, AI hutumia nishati ngapi unapojumuisha vituo vya data na upoezaji?

Mara tu mfumo mpana unapojumuishwa, jibu linakuwa la kweli zaidi na kwa kawaida huwa kubwa kuliko makadirio ya chip pekee yanavyopendekeza. Vituo vya data vinahitaji nguvu sio tu kwa ajili ya hesabu, bali pia kwa ajili ya kupoeza, kuunganisha mtandao, kuhifadhi, na kudumisha uwezo wa ziada. Ndiyo maana muundo wa miundombinu na ufanisi wa kituo ni muhimu sana kama vile muundo wa modeli.

Ni njia gani inayofaa zaidi ya kupima matumizi ya nishati ya AI katika mtiririko halisi wa kazi?

Njia bora inategemea ni nani anayepima na kwa madhumuni gani. Kanuni ya jumla inaweza kusaidia kwa kulinganisha haraka, huku mita za wati, telemetri ya GPU, kumbukumbu za bili za wingu, na kuripoti kituo cha data kutoa ufahamu wa utendaji kazi wenye nguvu zaidi. Kwa kazi kubwa ya uendelevu, mtazamo kamili wa mzunguko wa maisha ni imara zaidi, ingawa ni polepole na unaohitaji juhudi zaidi.

Timu zinawezaje kupunguza matumizi ya nishati ya AI bila kuacha vipengele muhimu vya AI?

Faida kubwa kwa kawaida hutokana na kutumia mfumo mdogo zaidi ambao bado hufanya kazi, kufupisha vidokezo na matokeo, kuhifadhi matokeo yanayorudiwa, kupanga kazi kwa makundi, na kuelekeza kazi ngumu zaidi kwa mifumo mikubwa. Uboreshaji wa miundombinu pia ni muhimu, hasa ratiba na ufanisi wa vifaa. Katika mifumo mingi, kupima kwanza husaidia kuzuia timu kuboresha jambo lisilofaa.

Marejeleo

1. Shirika la Nishati la Kimataifa (IEA) - Mahitaji ya nishati kutoka kwa AI - iea.org

2. Idara ya Nishati ya Marekani (DOE) - DOE yatoa ripoti mpya inayotathmini ongezeko la vituo vya data vya mahitaji ya umeme - energy.gov

3. Google Cloud - Kupima athari za kimazingira za ukadiriaji wa akili bandia - cloud.google.com

4. Utafiti wa Google - Habari njema kuhusu athari ya kaboni kwenye mafunzo ya kujifunza kwa mashine - research.google

5. Utafiti wa Google - Kiwango cha kaboni kinachotokana na mafunzo ya kujifunza kwa mashine kitasawazishwa na kisha kupungua - research.google

6. arXiv - AI ya Kijani - arxiv.org

7. arXiv - Strubell et al. - arxiv.org

8. arXiv - Upimaji, Kuunganisha, na Mikakati ya Kuhudumia katika Matumizi ya Nishati ya LLM - arxiv.org

Pata Akili ya Kielektroniki ya Hivi Punde katika Duka Rasmi la Msaidizi wa Akili ya Kielektroniki

Kuhusu Sisi