Maadili ya AI ni nini?

Neno hili linasikika kuwa la juu, lakini lengo ni la vitendo sana: fanya mifumo ya AI watu waweze kuamini-kwa sababu imeundwa, imejengwa, na inatumiwa kwa njia zinazoheshimu haki za binadamu, kupunguza madhara, na kutoa manufaa halisi. Hiyo ni - vizuri, zaidi.

Makala unayoweza kupenda kusoma baada ya hii:

🔗 MCP ni nini katika AI
Inafafanua itifaki ya moduli ya hesabu na jukumu lake katika AI.

🔗 AI ya makali ni nini
Inashughulikia jinsi usindikaji unaotegemea ukingo huwezesha maamuzi ya haraka ya AI ya ndani.

🔗 AI ya kuzalisha ni nini
Hutanguliza miundo inayounda maandishi, picha na maudhui mengine asili.

🔗 AI ya mawakala ni nini
Inaelezea mawakala wa AI wanaojitegemea wenye uwezo wa kufanya maamuzi yanayotokana na lengo.

Maadili ya AI ni nini? Ufafanuzi rahisi 🧭

Maadili ya AI ni seti ya kanuni, michakato na miongozo inayoongoza jinsi tunavyobuni, kukuza, kusambaza na kudhibiti AI ili kudumisha haki za binadamu, haki, uwajibikaji, uwazi na manufaa ya kijamii. Ifikirie kama sheria za kila siku za barabara kwa algoriti-na ukaguzi wa ziada wa pembe za kushangaza ambapo mambo yanaweza kwenda kombo.

Mawazo ya kimataifa yanathibitisha hili: Mapendekezo ya UNESCO yanazingatia haki za binadamu, uangalizi wa binadamu, na haki, kwa uwazi na haki kama mambo yasiyoweza kujadiliwa [1]. Kanuni za AI za OECD zinalenga ya kuaminika ambayo inaheshimu maadili ya kidemokrasia huku ikiendelea kutumika kwa timu za sera na uhandisi [2].

Kwa kifupi, Maadili ya AI sio bango ukutani. Ni kitabu ambacho timu hutumia kutabiri hatari, kuthibitisha uaminifu na kulinda watu. Mfumo wa Usimamizi wa Hatari wa AI wa NIST unashughulikia maadili kama udhibiti wa hatari katika mzunguko wa maisha wa AI [3].

Ni nini hufanya Maadili mazuri ya AI ✅

Hapa kuna toleo gumu. Mpango mzuri wa Maadili wa AI:

Inaishi, sio laminated - sera zinazoendesha mazoea halisi ya uhandisi na ukaguzi.
Huanzia kwenye kutunga tatizo - ikiwa lengo limezimwa, hakuna urekebishaji wa haki utakaoliokoa.
Maamuzi ya hati - kwa nini data hii, kwa nini mfano huu, kwa nini kizingiti hiki.
Majaribio yenye muktadha - tathmini kwa kikundi kidogo, sio tu usahihi wa jumla (mandhari kuu ya NIST) [3].
Inaonyesha kazi yake - kadi za kielelezo, uwekaji kumbukumbu wa seti ya data, na maoni wazi ya watumiaji [5].
Hujenga uwajibikaji - wamiliki waliotajwa, njia za kupanda, ukaguzi.
Husawazisha biashara katika maeneo ya wazi - usalama dhidi ya matumizi dhidi ya faragha, imeandikwa.
Huunganishwa na mahitaji ya sheria - kulingana na hatari ambayo hudhibiti udhibiti kwa athari (angalia Sheria ya EU AI) [4].

Ikiwa haitabadilisha uamuzi wa bidhaa moja, sio maadili - ni mapambo.

Jibu la haraka kwa swali kubwa: Maadili ya AI ni nini? 🥤

Ni jinsi timu hujibu maswali matatu ya mara kwa mara, tena na tena:

Je, tujenge hili?
Ikiwa ndio, tunawezaje kupunguza madhara na kuyathibitisha?
Mambo yanapoenda kando, nani anawajibika na nini kitafuata?

Kuchosha kwa vitendo. Inashangaza ngumu. Thamani yake.

Kesi ndogo ya sekunde 60 (uzoefu katika mazoezi) 📎

Timu ya fintech husafirisha muundo wa ulaghai kwa usahihi mkubwa wa jumla. Wiki mbili baadaye, tikiti za usaidizi huongezeka kutoka kwa malipo mahususi halali ya eneo huzuiwa. Ukaguzi wa kikundi kidogo unaonyesha kukumbuka kwa lugha hiyo ni pointi 12 chini ya wastani. Timu hutazama tena ufunikaji wa data, hujizoeza tena kwa uwakilishi bora, na kuchapisha kadi ya kielelezo ambayo huandika mabadiliko, tahadhari zinazojulikana na njia ya rufaa ya mtumiaji. Usahihi hushuka nukta moja; uaminifu wa mteja unaruka. Haya ni maadili kama udhibiti wa hatari na heshima ya mtumiaji , si bango [3][5].

Zana na mifumo ambayo unaweza kutumia 📋

(Mambo madogo madogo yamejumuishwa kwa kusudi-hayo ni maisha halisi.)

Chombo au Mfumo	Hadhira	Bei	Kwa nini inafanya kazi	Vidokezo
Mfumo wa Usimamizi wa Hatari wa NIST AI	Bidhaa, hatari, sera	Bure	Futa utendakazi- Serikali, Ramani, Pima, Dhibiti -panga timu	Kwa hiari, inayorejelewa sana [3]
Kanuni za AI za OECD	Exc, watunga sera	Bure	Thamani + recs za vitendo kwa AI ya kuaminika	Utawala dhabiti wa nyota ya kaskazini [2]
Sheria ya EU AI (msingi wa hatari)	Sheria, kufuata, CTOs	Bure*	Viwango vya hatari huweka udhibiti sawia kwa matumizi yenye athari kubwa	Gharama za kufuata zinatofautiana [4]
Kadi za Mfano	wahandisi wa ML, PM	Bure	Husawazisha mfano ni nini, hufanya, na wapi inashindwa	Karatasi + mifano ipo [5]
Nyaraka za seti ya data ("laha za data")	Wanasayansi wa data	Bure	Inafafanua asili ya data, chanjo, ridhaa na hatari	Ichukue kama lebo ya lishe

Kupiga mbizi kwa kina 1 - Kanuni katika mwendo, si kwa nadharia 🏃

Haki - Tathmini utendakazi katika idadi ya watu na miktadha; vipimo vya jumla huficha madhara [3].
Uwajibikaji - Wape wamiliki kwa data, muundo na maamuzi ya usambazaji. Weka kumbukumbu za maamuzi.
Uwazi - Tumia kadi za mfano; kuwaambia watumiaji jinsi uamuzi ni wa kiotomatiki na ni njia gani iliyopo [5].
Uangalizi wa kibinadamu - Weka wanadamu katika/kwenye kitanzi kwa maamuzi hatarishi, kwa uwezo wa kweli wa kuacha/ubatili (uliotangulia kwa uwazi na UNESCO) [1].
Faragha na usalama - Punguza na ulinde data; zingatia uvujaji wa wakati wa makisio na matumizi mabaya ya chini ya mkondo.
Beneficence - Onyesha manufaa ya kijamii, sio tu KPI nadhifu (OECD inaweka usawa huu) [2].

Upungufu mdogo: timu wakati mwingine hubishana kwa saa nyingi kuhusu majina ya kipimo huku zikipuuza swali halisi la madhara. Inafurahisha jinsi hiyo inavyotokea.

Kupiga mbizi kwa kina 2 - Hatari na jinsi ya kuzipima 📏

AI ya kimaadili inakuwa thabiti unapochukulia madhara kama hatari inayoweza kupimika:

Upangaji wa muktadha - Nani ameathiriwa, moja kwa moja na kwa njia isiyo ya moja kwa moja? Je, mfumo una nguvu gani ya uamuzi?
Usawa wa data - Uwakilishi, kuteleza, ubora wa lebo, njia za idhini.
Tabia ya kielelezo - Hali za kutofaulu chini ya mabadiliko ya usambazaji, vidokezo vya uhasama, au ingizo hasidi.
Tathmini ya athari - Ukali × uwezekano, upunguzaji, na hatari iliyobaki.
Vidhibiti vya mzunguko wa maisha - Kutoka kwa kutunga tatizo hadi ufuatiliaji wa baada ya kupelekwa.

NIST inagawanya hili katika timu nne za utendaji kazi zinaweza kupitisha bila kuanzisha upya gurudumu: Govern, Ramani, Pima, Dhibiti [3].

Kupiga mbizi kwa kina 3 - Hati zinazokuokoa baadaye 🗂️

Vizalia viwili vya unyenyekevu hufanya zaidi ya kauli mbiu yoyote:

Kadi za Kielelezo - Kielelezo ni cha nini, jinsi ulivyotathminiwa, pale ulipofeli, mazingatio ya kimaadili, na makanusho-mafupi, yaliyopangwa, yanayosomeka [5].
Hati za seti ya data (“lahajedwali”) - Kwa nini data hii ipo, jinsi ilivyokusanywa, ni nani aliyewakilishwa, mapungufu yanayojulikana, na matumizi yanayopendekezwa.

Iwapo umewahi kuwaeleza wasimamizi au waandishi wa habari kwa nini mwanamitindo alitenda vibaya, utashukuru ubinafsi wako wa zamani kwa kuandika haya. Baadaye - utanunua kahawa ya zamani.

Dive 4 - Utawala ambao unauma sana 🧩

Bainisha viwango vya hatari - Azima wazo lenye msingi wa hatari ili kesi za utumiaji zenye athari kubwa zichunguzwe zaidi [4].
Milango ya jukwaa - Mapitio ya maadili wakati wa ulaji, kabla ya uzinduzi, na baada ya uzinduzi. Sio milango kumi na tano. Tatu ni nyingi.
Mgawanyo wa majukumu - Wasanidi wanapendekeza, ukaguzi wa washirika hatari, viongozi hutia saini. Futa mistari.
Jibu la tukio - Nani anasimamisha mfano, jinsi watumiaji wanavyoarifiwa, jinsi urekebishaji unavyoonekana.
Ukaguzi wa kujitegemea - Ndani kwanza; nje ambapo vigingi vinahitaji.
Mafunzo na motisha - Zawadi maswala ya kuibua mapema, sio kuyaficha.

Hebu tuwe waaminifu: ikiwa utawala hautawahi kusema hapana , sio utawala.

Kupiga mbizi kwa kina 5 - Watu walio kwenye kitanzi, si kama vifaa 👩⚖️

Uangalizi wa kibinadamu sio kisanduku cha kuteua-ni chaguo la kubuni:

Wanadamu wanapoamua - Futa vizingiti ambapo mtu lazima apitie, haswa kwa matokeo ya hatari kubwa.
Ufafanuzi kwa watoa maamuzi - Mpe mwanadamu sababu na kutokuwa na uhakika .
Mitindo ya maoni ya mtumiaji - Waruhusu watumiaji washindane au warekebishe maamuzi ya kiotomatiki.
Ufikivu - Violesura ambavyo watumiaji mbalimbali wanaweza kuelewa na kutumia kwa hakika.

Mwongozo wa UNESCO ni rahisi hapa: utu na uangalizi wa binadamu ni msingi, sio hiari. Jenga bidhaa ili wanadamu waweze kuingilia kati kabla ya nchi madhara [1].

Dokezo la upande - Mpaka unaofuata: neurotech 🧠

AI inapoingiliana na teknolojia ya neva, faragha ya kiakili na uhuru wa mawazo huwa mazingatio halisi ya muundo. Kitabu cha kucheza sawa kinatumika: kanuni zinazozingatia haki [1], utawala unaoaminika kwa muundo [2], na ulinzi sawia kwa matumizi hatarishi [4]. Jenga ngome za mapema badala ya kuzifunga baadaye.

Jinsi timu hujibu Maadili ya AI ni nini? kwa mazoezi - mtiririko wa kazi 🧪

Jaribu kitanzi hiki rahisi. Sio kamili, lakini inafaa kwa ukaidi:

Kusudi kuangalia - Ni tatizo gani la kibinadamu tunalotatua, na ni nani anayefaidika au kubeba hatari?
Ramani ya muktadha - Wadau, mazingira, vikwazo, hatari zinazojulikana.
Mpango wa data - Vyanzo, idhini, uwakilishi, uhifadhi, nyaraka.
Muundo kwa ajili ya usalama - Majaribio ya kiadvertarial, timu nyekundu, faragha-kwa-design.
Bainisha usawa - Chagua vipimo vinavyofaa kikoa; ubadilishanaji wa hati.
Mpango wa ufafanuzi - Nini kitaelezewa, kwa nani, na jinsi utakavyothibitisha manufaa.
Kadi ya kielelezo - Rasimu mapema, sasisha unapoendelea, chapisha wakati wa uzinduzi [5].
Milango ya utawala - Mapitio ya hatari na wamiliki wanaowajibika; muundo unaotumia vitendaji vya NIST [3].
Ufuatiliaji baada ya uzinduzi - Vipimo, arifa za kuteleza, vitabu vya michezo vya matukio, rufaa za watumiaji.

Ikiwa hatua inahisi nzito, iongeze kwa hatari. Hiyo ndiyo hila. Uhandisi kupita kiasi roboti ya kusahihisha tahajia haisaidii mtu yeyote.

Maadili dhidi ya kufuata - tofauti kali lakini muhimu 🌶️

Maadili yanauliza: je, hili ni jambo sahihi kwa watu?
Uzingatiaji unauliza: je, hii inakidhi kitabu cha sheria?

Unahitaji zote mbili. Muundo wa EU unaotegemea hatari unaweza kuwa uti wa mgongo wako wa kufuata, lakini mpango wako wa maadili unapaswa kuvuka viwango vya chini-hasa katika hali tatanishi au mpya za utumiaji [4].

Mfano wa haraka (ulio na dosari): kufuata ni uzio; maadili ni mchungaji. Uzio hukuweka kwenye mipaka; mchungaji anakuweka katika njia sahihi.

Mitego ya kawaida - na nini cha kufanya badala yake 🚧

Shimo: ukumbi wa michezo wa maadili - kanuni za dhana zisizo na rasilimali.
Rekebisha: weka wakati, wamiliki, na kagua vituo vya ukaguzi.
Shimo: wastani wa madhara - vipimo bora vya jumla huficha kushindwa kwa kikundi kidogo.
Rekebisha: tathmini kila wakati kulingana na idadi ndogo ya watu [3].
Shimo: usiri unaojifanya kuwa usalama - kuficha maelezo kutoka kwa watumiaji.
Kurekebisha: kufichua uwezo, mipaka, na usaidizi katika lugha rahisi [5].
Shimo: ukaguzi mwishoni - kutafuta matatizo kabla ya uzinduzi.
Rekebisha: badilisha maadili ya kushoto-fanya sehemu ya muundo na ukusanyaji wa data.
Shimo: orodha za ukaguzi bila hukumu - kufuata fomu, sio maana.
Rekebisha: changanya violezo na ukaguzi wa kitaalamu na utafiti wa watumiaji.

Maswali Yanayoulizwa Mara kwa Mara - mambo ambayo utaulizwa hata hivyo ❓

Je, Maadili ya AI yanapinga uvumbuzi?
Hapana. Ni uvumbuzi unaofaa. Maadili huepuka mambo yasiyofaa kama mifumo yenye upendeleo ambayo huzua upinzani au matatizo ya kisheria. Uundaji wa OECD unakuza uvumbuzi kwa usalama [2].

Je, tunahitaji hii ikiwa bidhaa zetu ni hatari kidogo?
Ndio, lakini nyepesi. Tumia vidhibiti sawia. Wazo hilo la msingi wa hatari ni kawaida katika mbinu ya EU [4].

Je, ni nyaraka gani za lazima?
Kwa uchache: hati za seti ya data kwa seti zako kuu za data, kadi ya kielelezo kwa kila muundo, na kumbukumbu ya uamuzi wa toleo [5].

Nani anamiliki Maadili ya AI?
Kila mtu anamiliki tabia, lakini bidhaa, sayansi ya data na timu za hatari zinahitaji majukumu yaliyotajwa. Utendaji wa NIST ni kiunzi kizuri [3].

Muda Mrefu Sijaisoma - Maneno ya mwisho 💡

Ikiwa ulichunguza haya yote, hapa ndio moyo: Maadili ya AI ni nini? Ni nidhamu ya vitendo ya kujenga AI ambayo watu wanaweza kuamini. Anzisha mwongozo unaokubalika na wengi-mtazamo unaozingatia haki za UNESCO na kanuni za kuaminika za AI za OECD. Tumia mfumo wa hatari wa NIST ili kuufanyia kazi, na usafirishe na kadi za kielelezo na nyaraka za seti ya data ili chaguo zako ziweze kusomeka. Kisha endelea kuwasikiliza watumiaji, kwa washikadau, kwa ufuatiliaji wako mwenyewe-na urekebishe. Maadili si jambo la moja kwa moja; ni mazoea.

Na ndio, wakati mwingine utasahihisha. Huko si kushindwa. Hiyo ndiyo kazi. 🌱

Marejeleo

UNESCO - Pendekezo kuhusu Maadili ya Ujasusi Bandia (2021). Kiungo
OECD - Kanuni za AI (2019). Kiungo
NIST - Mfumo wa Usimamizi wa Hatari wa Ujasusi Bandia (AI RMF 1.0) (2023) (PDF). Kiungo
EUR-Lex - Kanuni (EU) 2024/1689 (Sheria ya AI). Kiungo
Mitchell na wengine. - "Kadi za Mfano za Kuripoti Mfano" (ACM, 2019). Kiungo

Pata AI ya Hivi Punde kwenye Duka Rasmi la Msaidizi wa AI

Kuhusu Sisi

Rudi kwenye blogu

Nchi/eneo