AI ni nini katika Kompyuta ya Wingu?

Jibu fupi: AI katika kompyuta ya wingu inahusu kutumia majukwaa ya wingu kuhifadhi data, kukodisha kompyuta, kutoa mafunzo kwa mifumo, kuisambaza kama huduma, na kuiweka ikifuatiliwa katika uzalishaji. Ni muhimu kwa sababu hitilafu nyingi huzunguka data, upelekaji, na shughuli, sio hesabu. Ikiwa unahitaji upimaji wa haraka au kutolewa mara kwa mara, wingu + MLOps ndio njia ya vitendo.

Mambo muhimu ya kuzingatia:

Mzunguko wa Maisha : Kukusanya data, kujenga vipengele, kutoa mafunzo, kusambaza, kisha kufuatilia utelezi, ucheleweshaji, na gharama.

Utawala : Kujenga vidhibiti vya ufikiaji, kumbukumbu za ukaguzi, na kutenganisha mazingira tangu mwanzo.

Uzalishaji : Rekodi matoleo ya data, msimbo, vigezo, na mazingira ili uendeshaji uendelee kurudiwa.

Udhibiti wa gharama : Tumia upangaji wa pamoja, uhifadhi wa akiba, upimaji otomatiki, na mafunzo ya doa/ya awali ili kuepuka mshtuko wa bili.

Mifumo ya utumaji : Chagua majukwaa yanayosimamiwa, mtiririko wa kazi wa lakehouse, Kubernetes, au RAG kulingana na uhalisia wa timu.

Makala ambazo unaweza kupenda kusoma baada ya hii:

🔗 Zana bora za usimamizi wa biashara za wingu la AI
Linganisha mifumo inayoongoza ya wingu inayorahisisha shughuli, fedha, na timu.

🔗 Teknolojia zinahitajika kwa AI ya uzalishaji mkubwa
Miundombinu muhimu, data, na utawala vinahitajika ili kusambaza GenAI.

🔗 Zana za AI za bure za uchambuzi wa data
Suluhisho bora za AI zisizo na gharama za kusafisha, kuiga, na kuibua seti za data.

🔗 AI kama huduma ni nini?
Inaelezea AIaaS, faida, mifumo ya bei, na matumizi ya kawaida ya biashara.

---

AI katika Kompyuta ya Wingu: Ufafanuzi Rahisi 🧠☁️

Katika msingi wake, AI katika kompyuta ya wingu inamaanisha kutumia majukwaa ya wingu kufikia:

• Nguvu ya kompyuta (CPU, GPU, TPU) Google Cloud: GPU za hati za TPU za Wingu la

• Uhifadhi (maziwa ya data, maghala, uhifadhi wa vitu) AWS: Ziwa la data ni nini? AWS: Ghala la data ni nini? Amazon S3 (hifadhi ya vitu)

• Huduma za AI (mafunzo ya modeli, uwasilishaji, API za maono, usemi, NLP) Huduma za AI za AWS API za AI za Wingu la Google

• Uundaji wa zana za MLOps (mabomba, ufuatiliaji, sajili ya modeli, CI-CD kwa ML) Google Cloud: MLOps ni nini? Usajili wa modeli za AI za Vertex

Badala ya kununua vifaa vyako vya gharama kubwa, unakodisha unachohitaji, unapokihitaji NIST SP 800-145 . Kama vile kuajiri gym kwa ajili ya mazoezi makali moja badala ya kujenga gym katika gereji yako na kisha kutotumia tena treadmill. Huwapata walio bora zaidi kati yetu 😬

Kwa uwazi: ni AI inayopima, kusafirisha, kusasisha, na kufanya kazi kupitia miundombinu ya wingu NIST SP 800-145 .

---

Kwa Nini AI + Wingu Ni Jambo Kubwa Sana 🚀

Tuwe wakweli - miradi mingi ya AI haishindwi kwa sababu hesabu ni ngumu. Hushindwi kwa sababu "mambo yanayozunguka modeli" yanachanganyikiwa:

• data imetawanyika

• mazingira hayalingani

• modeli hiyo inafanya kazi kwenye kompyuta ya mkononi ya mtu lakini hakuna mahali pengine popote

• kupelekwa huchukuliwa kama wazo la baadaye

• Usalama na utiifu hufika marehemu kama binamu asiyealikwa 😵

Mifumo ya wingu husaidia kwa sababu hutoa:

1) Kipimo cha elastic 📈

Fundisha modeli kwenye kundi kubwa kwa muda mfupi, kisha uifunge NIST SP 800-145 .

2) Majaribio ya haraka zaidi ⚡

Boresha kompyuta ndogo zinazodhibitiwa, mabomba yaliyojengwa tayari, na matukio ya GPU haraka Google Cloud: GPU za AI .

3) Utekelezaji rahisi zaidi 🌍

Tumia mifumo kama API, kazi za kundi, au huduma zilizopachikwa Red Hat: API ya REST ni nini? SageMaker Batch Transform .

4) Mifumo ikolojia ya data iliyojumuishwa 🧺

Mifumo yako ya data, maghala, na uchanganuzi mara nyingi tayari huishi kwenye wingu. AWS: Ghala la data dhidi ya ziwa la data .

5) Ushirikiano na utawala 🧩

Ruhusa, kumbukumbu za ukaguzi, uundaji wa matoleo, na uundaji wa zana zinazoshirikiwa huingizwa katika (wakati mwingine kwa uchungu, lakini bado) sajili za Azure ML (MLOPS) .

---

Jinsi AI katika Kompyuta ya Wingu Inavyofanya Kazi kwa Utendaji (Mtiririko Halisi) 🔁

Hapa kuna mzunguko wa maisha wa kawaida. Sio toleo la "mchoro kamili" ... ile inayoishi ndani.

Hatua ya 1: Data inatua kwenye hifadhi ya wingu 🪣

Mifano: ndoo za kuhifadhi vitu, maziwa ya data, hifadhidata za wingu Amazon S3 (hifadhi ya vitu) AWS: Ziwa la data ni nini? Muhtasari wa Hifadhi ya Wingu la Google .

Hatua ya 2: Uchakataji wa data + uundaji wa vipengele 🍳

Unaisafisha, unaibadilisha, unaunda vipengele, labda unaisambaza.

Hatua ya 3: Mafunzo ya kielelezo 🏋️

Unatumia kompyuta ya wingu (mara nyingi GPU) kufunza Google Cloud: GPU kwa AI :

• modeli za ML za kitamaduni

• mifumo ya kujifunza kwa kina

• miundo mizuri ya modeli ya msingi

• mifumo ya kurejesha (mipangilio ya mtindo wa RAG) Karatasi ya Urejeshaji-Ulioboreshwa wa Urejeshaji (RAG)

Hatua ya 4: Utekelezaji 🚢

Mifano hufungashwa na kuhudumiwa kupitia:

• API za REST Red Hat: API ya REST ni nini?

• Sehemu za mwisho zisizo na seva SageMaker Uamuzi Usio na Seva

• Vyombo vya Kubernetes Kubernetes: Kuongeza ukubwa wa Pod mlalo

• mabomba ya makadirio ya kundi SageMaker Batch Transform Vertex AI

Hatua ya 5: Ufuatiliaji + masasisho 👀

Wimbo:

• ucheleweshaji

• Kifuatiliaji cha Mfano cha SageMaker kinachoteleza kwa usahihi

• Ufuatiliaji wa Mfano wa AI wa Kipeo cha Data

• gharama kwa kila utabiri

• Vidokezo vya makali vinavyokufanya unong'oneze “hili halipaswi kutokea…” 😭

Hiyo ndiyo injini. Hiyo ndiyo AI katika Cloud Computing inayoendelea, si kama ufafanuzi tu.

---

Ni Nini Kinachofanya Toleo Nzuri la AI katika Kompyuta ya Wingu? ✅☁️🤖

Ukitaka utekelezaji "mzuri" (sio onyesho la kuvutia tu), zingatia haya:

A) Utenganishaji wa wazi wa wasiwasi 🧱

• safu ya data (uhifadhi, utawala)

• safu ya mafunzo (majaribio, mabomba)

• safu ya kuhudumia (API, upimaji)

• safu ya ufuatiliaji (vipimo, kumbukumbu, arifa) Kifuatiliaji cha Mfano cha SageMaker

Kila kitu kinapounganishwa pamoja, utatuzi wa matatizo unakuwa uharibifu wa kihisia.

B) Uzalishaji upya kwa chaguo-msingi 🧪

Mfumo mzuri hukuruhusu kusema, bila kupunga mkono:

• data iliyofunza mfumo huu

• toleo la msimbo

• vigezo vya hyper

• mazingira

Kama jibu ni “uhh, nadhani ilikuwa mbio za Jumanne…” tayari uko matatani 😅

C) Ubunifu unaozingatia gharama 💸

AI ya Wingu ina nguvu, lakini pia ni njia rahisi zaidi ya kuunda bili kwa bahati mbaya ambayo inakufanya utilie shaka chaguzi zako za maisha.

Mipangilio mizuri ni pamoja na:

• Kubernetes ya kuongeza kiotomatiki

• ratiba ya matukio

• chaguzi zinazoweza kuepukika inapowezekana Amazon EC2 Spot Instances Google Cloud Preemptible VMs

• Uhifadhi wa akiba na upangaji wa hitimisho la SageMaker Batch Transform

D) Usalama na utiifu vimejumuishwa katika 🔐

Haijafungwa kwenye bolti baadaye kama mkanda wa mfereji kwenye bomba linalovuja.

E) Njia halisi kutoka kwa mfano hadi uzalishaji 🛣️

Hili ndilo kubwa. "Toleo" zuri la AI katika wingu linajumuisha MLOps, mifumo ya uwasilishaji, na ufuatiliaji tangu mwanzo. Google Cloud: MLOps ni nini? . Vinginevyo ni mradi wa maonyesho ya sayansi wenye ankara ya kifahari.

---

Jedwali la Ulinganisho: Chaguzi Maarufu za AI-ndani ya Wingu (Na Zinawahusu Nani) 🧰📊

Hapa chini kuna jedwali fupi, lenye maoni kidogo. Bei ni pana kimakusudi kwa sababu bei ya wingu ni kama kuagiza kahawa - bei ya msingi si bei 😵💫

Zana / Jukwaa	Hadhira	Bei ya juu	Kwa nini inafanya kazi (maelezo ya ajabu yamejumuishwa)
AWS SageMaker	Timu za ML, makampuni	Lipa unapoendelea	Jukwaa la ML lenye mkusanyiko kamili - mafunzo, sehemu za mwisho, njia za kupitisha data. Menyu zenye nguvu, lakini kila mahali.
AI ya Google Vertex	Timu za ML, mashirika ya sayansi ya data	Lipa unapoendelea	Mafunzo yenye udhibiti thabiti + usajili wa modeli + ujumuishaji. Inahisi laini inapobofya.
Kujifunza kwa Mashine ya Azure	Makampuni, mashirika yanayozingatia MS	Lipa unapoendelea	Inacheza vizuri na mfumo ikolojia wa Azure. Chaguzi nzuri za utawala, visu vingi.
Databricks (ML + Lakehouse)	Timu nzito za uhandisi wa data	Usajili + matumizi	Nzuri kwa kuchanganya mabomba ya data + ML katika sehemu moja. Mara nyingi hupendwa na timu za vitendo.
Vipengele vya AI ya theluji	Mashirika ya kwanza ya uchanganuzi	Kulingana na matumizi	Vizuri wakati ulimwengu wako tayari uko ghala. "Maabara ya ML" hayapungui, "AI ya bandia" zaidi katika SQL-ish."
IBM watsonx	Viwanda vinavyodhibitiwa	Bei ya biashara	Utawala na udhibiti wa biashara ni kipaumbele kikubwa. Mara nyingi huchaguliwa kwa ajili ya mipangilio mikubwa ya sera.
Kubernetes Zinazosimamiwa (DIY ML)	Wahandisi wa majukwaa	Kinachobadilika	Inabadilika na ni maalum. Pia… unamiliki maumivu yanapovunjika 🙃
Uamuzi usiotumia seva (vipengele vya utendaji + sehemu za mwisho)	Timu za bidhaa	Kulingana na matumizi	Nzuri kwa trafiki yenye miiba. Tazama kuanza kwa baridi na kuchelewa kama mwewe.

Hili si kuhusu kuchagua "bora zaidi" - ni kuhusu kulinganisha uhalisia wa timu yako. Hiyo ndiyo siri ya kimya kimya.

---

Kesi za Matumizi ya Kawaida kwa AI katika Kompyuta ya Wingu (Pamoja na Mifano) 🧩✨

Hapa ndipo mipangilio ya AI-in-cloud inavyofanya kazi vizuri zaidi:

1) Otomatiki ya huduma kwa wateja 💬

• wasaidizi wa gumzo

• uelekezaji wa tikiti

• muhtasari

• API ya Lugha Asilia ya Wingu ya Kugundua Hisia na Nia

2) Mifumo ya mapendekezo 🛒

• mapendekezo ya bidhaa

• mipasho ya maudhui

• "watu pia walinunua"
  Hizi mara nyingi zinahitaji makadirio yanayoweza kupanuliwa na masasisho ya karibu wakati halisi.

3) Ugunduzi wa ulaghai na alama za hatari 🕵️

Cloud hurahisisha kushughulikia matukio ya ghafla, kutiririsha matukio, na kuendesha vikundi.

4) Akili ya hati 📄

• Mabomba ya OCR

• uchimbaji wa kitu

• uchambuzi wa mkataba

• uchanganuzi wa ankara ya Snowflake Cortex AI Kazi
  Katika mashirika mengi, hapa ndipo muda unaporejeshwa kimya kimya.

5) Utabiri na uboreshaji unaozingatia ustadi 📦

Utabiri wa mahitaji, upangaji wa hesabu, uboreshaji wa njia. Wingu husaidia kwa sababu data ni kubwa na mafunzo upya ni ya mara kwa mara.

6) Programu za AI zinazozalisha 🪄

• uandishi wa maudhui

• usaidizi wa msimbo

• roboti za maarifa ya ndani (RAG)

• Uzalishaji wa Data Isiyotengenezwa ya Urejeshaji Ulioboreshwa (RAG)
  Mara nyingi huu ndio wakati ambapo makampuni hatimaye husema: "Tunahitaji kujua sheria zetu za ufikiaji wa data zinaishi wapi." 😬

---

Mifumo ya Usanifu Utakayoiona Kila Mahali 🏗️

Mfano wa 1: Jukwaa la ML Linalosimamiwa (njia ya "tunataka maumivu ya kichwa kidogo") 😌

• data ya kupakia

• mafunzo kwa kazi zinazosimamiwa

• sambaza kwenye sehemu za mwisho zinazosimamiwa

• Kifuatiliaji kwenye dashibodi za jukwaa Kifuatiliaji cha Mfano cha SageMaker Kipima Ufuatiliaji wa Mfano wa AI wa Kipeo

Inafanya kazi vizuri wakati kasi ni muhimu na hutaki kujenga vifaa vya ndani kuanzia mwanzo.

Muundo wa 2: Lakehouse + ML (njia ya "data-first") 🏞️

• unganisha uhandisi wa data + mtiririko wa kazi wa ML

• kuendesha madaftari, mabomba, uhandisi wa vipengele karibu na data

• imara kwa mashirika ambayo tayari yanaishi katika mifumo mikubwa ya uchanganuzi Databricks Lakehouse

Muundo wa 3: ML iliyo kwenye kontena kwenye Kubernetes (njia ya "tunataka udhibiti") 🎛️

• mifano ya vifurushi katika vyombo

• pima kwa kutumia sera za kuongeza ukubwa kiotomatiki Kubernetes: Kuongeza ukubwa kiotomatiki kwa Pod mlalo

• unganisha matundu ya huduma, uangalizi, siri mgmt

Pia inajulikana kama: "Tunajiamini, na pia tunapenda kutatua matatizo kwa saa zisizo za kawaida."

Muundo wa 4: RAG (Kizazi Kilichoongezwa cha Urejeshaji) (njia ya "tumia maarifa yako") 📚🤝

• hati katika hifadhi ya wingu

• upachikaji + duka la vekta

• safu ya urejeshaji hulisha muktadha kwa modeli

• reli za ulinzi + udhibiti wa ufikiaji + uandishi wa kumbukumbu Karatasi ya Urejeshaji Iliyoongezwa Urejeshaji (RAG)

Hii ni sehemu kubwa ya mazungumzo ya kisasa ya AI katika wingu kwa sababu ni jinsi biashara nyingi halisi zinavyotumia AI ya uzalishaji kwa usalama.

---

MLOps: Sehemu Ambayo Kila Mtu Hupuuza Makadirio 🧯

Ukitaka AI katika wingu ifanye kazi katika uzalishaji, unahitaji MLOps. Sio kwa sababu ni ya mtindo - kwa sababu mifumo hubadilika, data hubadilika, na watumiaji ni wabunifu kwa njia mbaya zaidi . Google Cloud: MLOps ni nini?

Vipande muhimu:

• Ufuatiliaji wa majaribio : kilichofanya kazi, kisichofanya kazi Ufuatiliaji wa MLflow

• Usajili wa modeli : modeli zilizoidhinishwa, matoleo, metadata Usajili wa MLflow wa modeli Kipeo Usajili wa AI wa modeli

• CI-CD kwa ML : majaribio + otomatiki ya usanidi Google Cloud MLOps (CD na otomatiki)

• Duka la vipengele : vipengele vinavyoendana katika mafunzo na hitimisho Duka la Vipengele la SageMaker

• Ufuatiliaji : kuteleza kwa utendaji, ishara za upendeleo, ucheleweshaji, gharama Kifuatiliaji cha Mfano cha SageMaker Kipeo Ufuatiliaji wa Mfano wa AI

• Mkakati wa kurejesha nyuma : ndio, kama programu ya kawaida

Ukipuuza hili, utaishia na "mbuga ya wanyama ya mfano" 🦓 ambapo kila kitu kiko hai, hakuna kilichoandikwa, na unaogopa kufungua lango.

---

Usalama, Faragha, na Uzingatiaji (Sio Sehemu ya Kufurahisha, Lakini… Ndiyo) 🔐😅

AI katika kompyuta ya wingu huibua maswali machache ya kusisimua:

Udhibiti wa ufikiaji wa data 🧾

Nani anaweza kufikia data ya mafunzo? Kumbukumbu za makadirio? Vidokezo? Matokeo?

Usimbaji fiche na siri 🗝️

Funguo, tokeni, na sifa zinahitaji utunzaji sahihi. "Katika faili ya usanidi" si utunzaji.

Kutengwa na upangaji 🧱

Baadhi ya mashirika yanahitaji mazingira tofauti kwa ajili ya uundaji, uundaji wa jukwaa, na uzalishaji. Wingu husaidia - lakini tu ikiwa utaiweka ipasavyo.

Ukaguzi 📋

Mashirika yanayodhibitiwa mara nyingi yanahitaji kuonyesha:

• data gani ilitumika

• jinsi maamuzi yalivyofanywa

• nani alituma nini

• ilipobadilisha IBM watsonx.governance

Usimamizi wa hatari wa modeli ⚠️

Hii inajumuisha:

• ukaguzi wa upendeleo

• majaribio ya wapinzani

• ulinzi wa haraka wa sindano (kwa ajili ya AI ya uzalishaji)

• kuchuja matokeo salama

Yote haya yanarudi kwenye hoja: si tu "AI inayoshikiliwa mtandaoni." Ni AI inayoendeshwa chini ya vikwazo halisi.

---

Vidokezo vya Gharama na Utendaji (Ili Usilie Baadaye) 💸😵💫

Vidokezo vichache vilivyojaribiwa vitani:

• Tumia modeli ndogo zaidi inayokidhi hitaji
  . Kubwa si mara zote huwa bora zaidi. Wakati mwingine huwa kubwa zaidi.

• Uamuzi wa kundi inapowezekana
  SageMaker ya bei nafuu na yenye ufanisi zaidi .

• Hifadhi kwa ukali
  Hasa kwa maswali yanayorudiwa na upachikaji.

• Kipimo otomatiki, lakini punguza
  Upanuzi usio na kikomo unaweza kumaanisha matumizi yasiyo na kikomo Kubernetes: Kupima Kiotomatiki kwa Podi ya Mlalo . Niulize ninajuaje… kwa kweli, usifanye hivyo 😬

• Fuatilia gharama kwa kila sehemu ya mwisho na kwa kila kipengele
  Vinginevyo utaboresha kitu kibaya.

• Tumia hesabu inayoweza kutotumika kwa ajili ya mafunzo
  Akiba nzuri ikiwa kazi zako za mafunzo zinaweza kushughulikia usumbufu Amazon EC2 Spot Instances Google Cloud Preemptible VMs .

---

Makosa Ambayo Watu Hufanya (Hata Timu Mahiri) 🤦♂️

• Kuchukulia wingu AI kama "kuunganisha tu modeli"

• Kupuuza ubora wa data hadi dakika ya mwisho

• Kusafirisha modeli bila ufuatiliaji Kifuatiliaji cha Mfano cha SageMaker

• Sijapanga kufunza tena kasi Google Cloud: MLOps ni nini?

• Kusahau kwamba timu za usalama zipo hadi wiki ya uzinduzi 😬

• Uhandisi kupita kiasi kutoka siku ya kwanza (wakati mwingine ushindi rahisi wa msingi)

Pia, ule wa kikatili kimya kimya: timu hupuuza kiasi ambacho watumiaji huchukia ucheleweshaji. Mfano ambao si sahihi kidogo lakini wa haraka mara nyingi hushinda. Wanadamu hawana subira miujiza midogo.

---

Mambo Muhimu ya Kuzingatia 🧾✅

AI katika Cloud Computing ni utaratibu kamili wa kujenga na kuendesha AI kwa kutumia miundombinu ya wingu - kuongeza mafunzo, kurahisisha upelekaji, kuunganisha mabomba ya data, na kuendesha mifumo kwa kutumia MLOps, usalama, na utawala Google Cloud: MLOps ni nini? NIST SP 800-145 .

Muhtasari wa haraka:

• Wingu huipa AI miundombinu ya kupanua na kusafirisha 🚀 NIST SP 800-145

• AI hupa wingu mzigo wa kazi "akili" zinazoendesha maamuzi kiotomatiki 🤖

• Uchawi si mafunzo tu - ni upelekaji, ufuatiliaji, na utawala 🧠🔐 Kifuatiliaji cha Mfano cha SageMaker

• Chagua majukwaa kulingana na mahitaji ya timu, si ukungu wa uuzaji 📌

• Gharama za kutazama na michezo kama mwewe aliyevaa miwani 🦅👓 (sitiari mbaya, lakini unaelewa)

Kama ulikuja hapa ukifikiri "Akili bandia katika kompyuta ya wingu ni API ya mfano tu," lah - ni mfumo mzima wa ikolojia. Wakati mwingine ni wa kifahari, wakati mwingine wenye misukosuko, wakati mwingine zote mbili alasiri moja 😅☁️

Maswali Yanayoulizwa Mara kwa Mara

Maana ya "AI katika kompyuta ya wingu" katika maneno ya kila siku

AI katika kompyuta ya wingu inamaanisha unatumia majukwaa ya wingu kuhifadhi data, kuzungusha hesabu (CPU/GPU/TPU), kufunza mifumo, kuisambaza, na kuifuatilia - bila kumiliki vifaa. Kwa vitendo, wingu linakuwa mahali ambapo mzunguko mzima wa maisha yako ya AI huendeshwa. Unakodisha unachohitaji unapokihitaji, kisha unapunguza unapomaliza.

Kwa nini miradi ya AI inashindwa bila miundombinu ya mtindo wa wingu na MLOps

Kushindwa mara nyingi hutokea karibu na modeli, si ndani yake: data isiyolingana, mazingira yasiyolingana, uwekaji dhaifu, na hakuna ufuatiliaji. Uwekaji wa vifaa vya wingu husaidia kusawazisha mifumo ya uhifadhi, hesabu, na uwekaji ili modeli zisishindwe kukwama kwenye "ilifanya kazi kwenye kompyuta yangu ya mkononi." MLOps huongeza gundi inayokosekana: ufuatiliaji, usajili, mabomba, na urejeshaji ili mfumo ubaki kuwa na uwezo wa kuzaliana tena na kudumishwa.

Mtiririko wa kawaida wa kazi wa AI katika kompyuta ya wingu, kuanzia data hadi uzalishaji

Mtiririko wa kawaida ni: data huanguka kwenye hifadhi ya wingu, huchakatwa kuwa vipengele, kisha mifumo hufunzwa kwa kutumia hesabu inayoweza kupanuliwa. Kisha, unasambaza kupitia sehemu ya mwisho ya API, kazi ya kundi, usanidi usio na seva, au huduma ya Kubernetes. Hatimaye, unafuatilia ucheleweshaji, mtelezi, na gharama, na kisha unarudia kwa mafunzo upya na upelekaji salama zaidi. Mipira mingi halisi huzunguka kila mara badala ya kusafirisha mara moja.

Kuchagua kati ya SageMaker, Vertex AI, Azure ML, Databricks, na Kubernetes

Chagua kulingana na uhalisia wa timu yako, si kelele za uuzaji za "majukwaa bora". Majukwaa ya ML yanayosimamiwa (SageMaker/Vertex AI/Azure ML) hupunguza maumivu ya kichwa ya uendeshaji kwa kazi za mafunzo, vituo vya mwisho, sajili, na ufuatiliaji. Databricks mara nyingi hufaa timu zenye uhandisi wa data-nzito ambazo zinahitaji ML karibu na mabomba na uchanganuzi. Kubernetes hutoa udhibiti na ubinafsishaji wa hali ya juu, lakini pia unamiliki uaminifu, sera za kuongeza ukubwa, na utatuzi wa matatizo wakati mambo yanapoharibika.

Mifumo ya usanifu inayoonekana zaidi katika mipangilio ya wingu ya AI leo

Utaona mifumo minne kila mara: mifumo ya ML inayosimamiwa kwa kasi, lakehouse + ML kwa mashirika ya data-first, ML iliyo kwenye kontena kwenye Kubernetes kwa ajili ya udhibiti, na RAG (kizazi kilichoongezwa urejeshaji) kwa ajili ya "kutumia maarifa yetu ya ndani kwa usalama." RAG kwa kawaida hujumuisha hati katika hifadhi ya wingu, upachikaji + hifadhi ya vekta, safu ya urejeshaji, na vidhibiti vya ufikiaji pamoja na kumbukumbu. Mfumo unaochagua unapaswa kuendana na utawala wako na ukomavu wa operesheni.

Jinsi timu zinavyotumia mifumo ya AI ya wingu: API za REST, kazi za kundi, zisizo na seva, au Kubernetes

API za REST ni za kawaida kwa utabiri wa wakati halisi wakati ucheleweshaji wa bidhaa ni muhimu. Uamuzi wa kundi ni mzuri kwa ajili ya kupata alama zilizopangwa na ufanisi wa gharama, hasa wakati matokeo hayahitaji kuwa ya papo hapo. Sehemu za mwisho zisizo na seva zinaweza kufanya kazi vizuri kwa trafiki yenye miiba, lakini kuanza kwa kasi na ucheleweshaji vinahitaji umakini. Kubernetes ni bora wakati unahitaji upimaji mzuri na ujumuishaji na zana za jukwaa, lakini inaongeza ugumu wa uendeshaji.

Mambo ya kufuatilia katika uzalishaji ili kuweka mifumo ya akili bandia ikiwa na afya

Kwa kiwango cha chini, fuatilia ucheleweshaji, viwango vya makosa, na gharama kwa kila utabiri ili uaminifu na bajeti iendelee kuonekana. Kwa upande wa ML, fuatilia ucheleweshaji wa data na ucheleweshaji wa utendaji ili kubaini wakati ukweli unabadilika chini ya mfumo. Kurekodi kesi za ukingo na matokeo mabaya pia ni muhimu, haswa kwa kesi za matumizi ya uzalishaji ambapo watumiaji wanaweza kuwa wabunifu. Ufuatiliaji mzuri pia husaidia maamuzi ya kurudi nyuma wakati mifumo inarudi nyuma.

Kupunguza gharama za akili bandia ya wingu bila utendaji wa tanki

Mbinu ya kawaida ni kutumia mfumo mdogo zaidi unaokidhi mahitaji, kisha kuboresha makadirio kwa kutumia batching na caching. Kuongeza kiotomatiki husaidia, lakini inahitaji miisho ili "elastic" isiwe "matumizi yasiyo na kikomo." Kwa mafunzo, hesabu ya doa/preemptive inaweza kuokoa mengi ikiwa kazi zako zinavumilia kukatizwa. Kufuatilia gharama kwa kila sehemu ya mwisho na kwa kila kipengele hukuzuia kuboresha sehemu isiyofaa ya mfumo.

Hatari kubwa zaidi za usalama na kufuata sheria na akili bandia (AI) katika wingu

Hatari kubwa ni ufikiaji usiodhibitiwa wa data, usimamizi dhaifu wa siri, na kukosa njia za ukaguzi kwa nani aliyefundisha na kupeleka nini. AI ya kuzalisha huongeza maumivu ya kichwa kama vile sindano ya haraka, matokeo yasiyo salama, na data nyeti inayoonekana kwenye kumbukumbu. Mifumo mingi ya bomba inahitaji kutengwa kwa mazingira (dev/staging/prod) na sera zilizo wazi za vidokezo, matokeo, na kumbukumbu za makadirio. Mipangilio salama zaidi huchukulia utawala kama hitaji kuu la mfumo, sio kiraka cha wiki ya uzinduzi.

Marejeleo

1. Taasisi ya Kitaifa ya Viwango na Teknolojia (NIST) - SP 800-145 (Mwisho) - csrc.nist.gov

2. Google Cloud - GPU za AI - cloud.google.com

3. Nyaraka za Wingu la Google - TPU za Wingu - docs.cloud.google.com

4. Huduma za Wavuti za Amazon (AWS) - Amazon S3 (hifadhi ya vitu) - aws.amazon.com

5. Huduma za Wavuti za Amazon (AWS) - Ziwa la data ni nini? - aws.amazon.com

6. Huduma za Wavuti za Amazon (AWS) - Ghala la data ni nini? - aws.amazon.com

7. Huduma za Wavuti za Amazon (AWS) - Huduma za AWS AI - aws.amazon.com

8. Google Cloud - API za AI za Google Cloud - cloud.google.com

9. Google Cloud - MLOps ni nini? - cloud.google.com

10. Google Cloud - Usajili wa Mfano wa AI wa Kipeo (Utangulizi) - docs.cloud.google.com

11. Kofia Nyekundu - API ya REST ni nini? - redhat.com

12. Nyaraka za Huduma za Wavuti za Amazon (AWS) - SageMaker Batch Transform - docs.aws.amazon.com

13. Huduma za Wavuti za Amazon (AWS) - Ghala la data dhidi ya ziwa la data dhidi ya mart ya data - aws.amazon.com

14. Microsoft Learn - Usajili wa Azure ML (MLOPS) - learn.microsoft.com

15. Google Cloud - Muhtasari wa Hifadhi ya Wingu la Google - docs.cloud.google.com

16. arXiv - Karatasi ya Kizazi Kilichoongezwa Urejeshaji (RAG) - arxiv.org

17. Nyaraka za Huduma za Wavuti za Amazon (AWS) - SageMaker Serverless Inference - docs.aws.amazon.com

18. Kubernetes - Upimaji Kiotomatiki wa Pod ya Mlalo - kubernetes.io

19. Google Cloud - Vertex AI - docs.cloud.google.com

20. Nyaraka za Huduma za Wavuti za Amazon (AWS) - Kifuatiliaji cha Mfano cha SageMaker - docs.aws.amazon.com

21. Google Cloud - Ufuatiliaji wa Mfano wa AI wa Kipeo (Kwa Kutumia Ufuatiliaji wa Mfano) - docs.cloud.google.com

22. Huduma za Wavuti za Amazon (AWS) - Amazon EC2 Spot Instances - aws.amazon.com

23. Wingu la Google - VM Zinazoweza Kutumika - docs.cloud.google.com

24. Nyaraka za Huduma za Wavuti za Amazon (AWS) - AWS SageMaker: Jinsi inavyofanya kazi (Mafunzo) - docs.aws.amazon.com

25. Wingu la Google - Google Vertex AI - cloud.google.com

26. Microsoft Azure - Kujifunza kwa Mashine ya Azure - azure.microsoft.com

27. Databricks - Databricks Lakehouse - databricks.com

28. Nyaraka za Snowflake - Vipengele vya AI ya Snowflake (Mwongozo wa Muhtasari) - docs.snowflake.com

29. IBM - IBM watsonx - ibm.com

30. za Wingu la Google - Lugha Asilia ya Wingu - docs.cloud.google.com

31. Nyaraka za Snowflake - Kazi za AI za Snowflake Cortex (AI SQL) - docs.snowflake.com

32. MLflow - Ufuatiliaji wa MLflow - mlflow.org

33. MLflow - Usajili wa Mfano wa MLflow - mlflow.org

34. Google Cloud - MLOps: Uwasilishaji endelevu na mabomba ya kiotomatiki katika kujifunza kwa mashine - cloud.google.com

35. Huduma za Wavuti za Amazon (AWS) - Duka la Vipengele vya SageMaker - aws.amazon.com

36. IBM - IBM watsonx.governance - ibm.com

Pata Akili ya Kielektroniki ya Hivi Punde katika Duka Rasmi la Msaidizi wa Akili ya Kielektroniki

Kuhusu Sisi