Je, AI Inaaminika? [Video na Maswali]

Jibu fupi: AI si sifa ya kuaminika: inategemea kazi, mzunguko wa urejeshaji, na mwanadamu ambaye bado yuko kwenye ndoano. Muda wa ziada ni kama sehemu ya mwisho ilijibu; ukweli ni kama jibu lilikuwa hivyo. Itumie wakati kosa ni la bei rahisi au linaloweza kushikika; punguza mwendo wakati kosa ni ghali.

Mambo muhimu ya kuzingatia:

Uwajibikaji: Taja ni nani anayehakiki, ni nani anayeweza kuizuia, na ni nani aliye kwenye mtego.

Uwazi: Kagua kipande kilichopatikana, au bado uko kwenye ukungu.

Ukaguzi: Kurekodi viashiria, kurejesha vipande, na kutuma ili makosa yaweze kufuatiliwa.

Upinzani wa matumizi mabaya: Kushindwa kumefungwa kwa maswali ya pesa; kamwe usivumbue nambari, madirisha, au sera.

Matokeo ya kielelezo: Chukua jaribio la vielelezo la maswali 20 kama ramani, si uthibitisho wa 95%.

Makala ambazo unaweza kupenda kusoma baada ya hii:

🔗 Jinsi ya kutumia akili bandia katika maisha ya kila siku
Gundua njia za vitendo ambazo akili bandia inaweza kurahisisha kazi na utaratibu wa kila siku.

🔗 Jinsi ya kutumia AI kazini
Jifunze njia za vitendo za kuboresha tija na ufanisi ukitumia AI.

🔗 Je, akili bandia inaweza kufikiria yenyewe?
Chunguza kama akili bandia inaweza kufikiria kwa uhuru na mantiki.

🔗 Aina za AI ni zipi?
Elewa aina kuu za AI, uwezo, na tofauti kuu.

"Kuaminika" hata kunamaanisha nini wakati mashine ni kasuku wa takwimu

Kuaminika, katika hotuba ya kila siku, kunamaanisha unaweza kutegemea kitu.

Kwa otomatiki inayozungumza, rundo la sifa tofauti hujificha chini ya neno moja. Ukweli. Uthabiti. Urekebishaji - iwe imani ya modeli inalingana na nafasi ambayo ni sahihi, au iwe tu ... inasikika kuwa ya uhakika. Usalama. Muda wa kufanya kazi. Usikivu wa haraka. Tabia katika hali ngumu. Tabia baada ya mabadiliko ya usambazaji, wakati ulimwengu wa moja kwa moja sio ulimwengu wa mafunzo. Hakuna hata moja kati ya hizo inayoshindwa pamoja. Hiyo ndiyo sehemu ambayo watu huiruka.

Kibodi cha gumzo kinaweza "kusimama" wiki nzima na bado kikawa na makosa Jumanne alasiri. Mrubani msaidizi wa msimbo anaweza kuwa sawa katika boilerplate na kisha kuibua API inayofanana kabisa na ile halisi. Mfano ambao watu hufikia ni "mwenzake mdogo". Ni usio kamili - vijana huaibika - lakini uko karibu zaidi kuliko "oracle".

Jaribio la moja kwa moja linaaminika kwa nini, kwa nani, kwa mzunguko gani unaozunguka. Vinginevyo unapima kiwango cha blender kama inaweza kulipa kodi.

Muda wa kufanya kazi si ukweli - aina mbili tofauti za "kuaminika"

Watu wa Ops na watu wa ukweli hutumia neno moja na huzungumza mbele ya kila mmoja.

Muda wa kufanya kazi ni "jibu la mwisho". Ukweli ni "jibu lilikuwa hivyo". Utawala unajali yote mawili, na hatari ya kielelezo iko kwenye pengo baya. Unaweza kuwa na huduma ambayo haipepesi macho kamwe na bado ikatuma uongo fasaha kwa tiketi ya mteja. Inaaminika kwa maana ya SRE. Sio ya kuaminika kwa maana ya "tafadhali usivumbue sera ya kurejeshewa pesa".

Nadhani hii imeandikwa wazi. Haionekani wazi saa kumi jioni wakati jibu ni la haraka na foleni ni mnyama. Kasi inahisi kama uwezo. Upole ulimaanisha mtu alikuwa akifikiria. Sasa kasi ndiyo ishara ambayo hakuna mtu anayefikiria.

Usalama ni mhimili mwingine. Mfano unaokataa kuvunjika gerezani ni "wa kuaminika" kwa njia inayopima usalama na bado unaweza kuharibu muhtasari wa maelezo yako mwenyewe.

Ufasaha na makosa ni mbaya zaidi kuliko ujinga na uwazi

Hili ndilo tatizo la kujiamini, na ndilo linalouma.

Usahihi na ufasaha ulitengana na ufasaha uliiweka nyumba katika hali nzuri. LLM itakupa mdundo, ukizuia sehemu zinazofaa, labda umbo la nukuu bandia lakini nzuri. Ubongo wako unasoma "mtu huyu anajua". Isipokuwa si mtu, na upimaji mara nyingi huwa mbaya - kujiamini sana, ukweli wa kati, unaotolewa kama muhtasari.

Jibu lisilo sahihi linalokufanya uwe na shaka. Jibu lisilo sahihi linalokufanya uache kuangalia. Hiyo si tofauti ndogo; ni hadithi nzima katika sentensi moja mbaya kidogo.

Upendeleo pia hujitokeza, sio kila wakati kama kashfa, zaidi kama chaguo-msingi kuhusu ni nani aliye chumbani na ni ladha gani ya Kiingereza inayohesabiwa kama isiyoegemea upande wowote. Watu hudanganywa kwa sababu lugha ndiyo kiolesura chetu cha zamani zaidi cha uaminifu. Ikiwa inazungumza kama muhtasari, tunaichukulia kama muhtasari. Ninaendelea kumaanisha kuwa na wasiwasi zaidi kuhusu hilo. Kisha nasoma muhtasari wa kuchukiza na mabega yangu huanguka. Nikiingia kwenye mkutano, muhtasari unaonekana umekamilika. Sentensi hiyo inafanya kazi nyingi sana, na bado: hivyo ndivyo kosa linavyoingia kwenye sitaha.

Kuaminika kwa hali, si kwa chapa

Chapa ni kikwazo. Ulinganisho unaopata umaarufu ndio kazi. Migogoro itabishana. Hiyo ni sawa.

Vyovyote vile. Kama kifaa chako unachokipenda ni stadi katika uchoraji na unajikuta ukikiomba faraja ya kisheria usiku wa manane, hiyo si sasisho. Hiyo ni ramani inayosema uliacha.

Ndoto zisizoeleweka, kuteleza, na aina ya makosa ya kimya kimya

Uzushi wa ndoto umekuwa maarufu kwa sababu ni wa viungo: kitabu ambacho hakipo, kazi ambayo haijawahi kutumwa, kifungu cha sera chenye nambari inayohisiwa kuwa rasmi.

Mzunguko wa mawazo hauonyeshi sana sinema. Dunia inasonga. Mabaki ya mwanamitindo hubaki. Unauliza swali ambalo lilihitaji muktadha mpya na unapata jibu lililopangwa vizuri kutoka kwa hali ya hewa iliyopita. Karibu niliandika "kutoka enzi nyingine" hapo, ambayo ndiyo mada hii inakaribisha kwa maneno mengi. Sio enzi nyingine. Sio sasa tu.

Uovu mtulivu ndio ninaoujali zaidi. Muhtasari unaoondoa ubaguzi. Kifupi kinachoboresha labda kuwa lazima. Ukweli unaweza kuwa "sawa kitaalamu" ilhali maana imepungua.

Usikivu wa haraka hufanya hili kuwa baya zaidi. Badilisha mpangilio na "ukweli" hung'aa. Uliza kama mwenye shaka, pata ua. Uliza kama bosi haraka, pata madai ya ziada ya haraka. Ikiwa tathmini yako inatumia vazi moja tu, tathmini yako ni uongo kidogo. Samahani.

Vizuizi vya gerezani vimekwama, na sitaki filamu ya wizi. Ikiwa mfumo unaweza kushawishiwa kuacha tabia zake, uaminifu si kuhusu ukweli tu; ni kama ulinzi ni mzunguko au bango.

Mabaki ya mafunzo, maarifa yaliyopitwa na wakati, na kwa nini kutuliza si fimbo ya uchawi

Mifumo ya kuzalisha hufunzwa kwenye rundo, kisha huelekezwa Jumanne yako. Kurejesha ni jaribio la mtu mzima la kuunganisha zawadi kwenye rundo hilo. Kutuliza kunamaanisha "jibu kutoka kwa hili, sio kutoka kwa ukungu". Inaposhindwa, inashindwa kwa adabu.

Kushindwa kwa kawaida: kirejeshi kinachukua hati iliyo karibu kukosekana. Jenereta huandika kupitia hiyo kwa utulivu kamili. Unaona kitu chenye umbo la chanzo na silika yako ya kuangalia inazimwa. Mimi hufanya hivi. Labda unafanya hivi. Wazo la nukuu ni sahihi; utekelezaji ni mzuri tu kama hit.

Maarifa ya kizamani ndiyo uvujaji mwingine. Baadhi ya kazi zinahitaji hali halisi - bei, orodha ya bidhaa, maneno ya sasa ya sera. Baadhi zinahitaji ufundi thabiti, kama vile jinsi ya kupanga memo. Changanya hizo na unapata jibu la uhakika kuhusu ulimwengu ambao tayari umehama. Mabadiliko ya usambazaji ni jina la mtu mzima: usambazaji halisi si usambazaji wa mafunzo, na kesi za ukingo zinaishi kwenye pengo.

Jambo moja zaidi, lilisema kwa kistari kilichowekwa vibaya kwa sababu hivyo ndivyo maelezo yangu yanavyoonekana: kutuliza ni sakafu - si halo. Kama huwezi kukagua kipande kilichopatikana, bado uko kwenye ukungu, ukiwa na mwangaza bora zaidi.

Ukumbi wa Tathmini: kwa nini onyesho ni mtihani mbaya

Maonyesho ni ya kuvutia. Vigezo ni vya wazi zaidi, na bado si kazi yako.

Kidokezo safi na kazi ambayo modeli imeona ndugu elfu moja - bila shaka inaonekana kali. Tathmini ambayo hupima tu mchezo wa jukwaani. Mifumo ya kazi ya moja kwa moja ina mchanganyiko wa kubandika, faili zinazokosekana, na mtumiaji ambaye atakubali jibu la kwanza linalopunguza wasiwasi wake.

Vigezo ni muhimu. Havisafiri kama vile deki zinavyojifanya. Alama ya ubao wa wanaoongoza si urekebishaji kwenye tiketi zako. Hatari ya kielelezo katika kampuni ni "kinachotokea wakati hii ni makosa kwa ujazo", si "je, ilipita seti ya maswali na majibu". Majaribio unayohitaji ni makavu: kaa ndani ya kifungu kilichopatikana; onyesha kutokuwa na uhakika badala ya kudanganya; kaa thabiti unapoandika upya; shindwa kufungwa (kataa, uliza, acha) badala ya kushindwa kufungua (kuvumbua).

Nimewaona watu wakichukulia umaliziaji mmoja wa kuvutia kama uthibitisho. Hiyo ni kama kuamua mgahawa "unaaminika" kwa sababu mwanzo ulikuwa mzuri. Labda ni mzuri. Labda jikoni ilikuwa na dakika kumi nzuri.

Utata mdogo unaokuja: Bado ninatumia maonyesho ili kupata hisia. Situmii hisia hiyo.

Je, AI Inaaminika? Tu ikiwa mtu bado yuko kwenye mtego

Ubunifu wa kibinadamu ndio muundo pekee unaolingana na hali za kushindwa.

Ikiwa hakuna anayewajibika, mfumo utatumika kana kwamba ni hivyo. Utawala ni jina lisilo la kingono la "nani anayepitia, nani anayeweza kuizuia, nini kinarekodiwa, nini kinatokea baada ya kukosa". Mawakala hufanya hili kuwa kali zaidi kwa sababu wanachukua hatua, si aya tu. Rasimu ambayo hukutuma ni ya bei rahisi. Simu ya zana ambayo hukumaanisha sivyo.

Taja ni nani aliye kwenye ndoano. Ikiwa jibu ni "mfano", huna jibu. Wanamfano hawaendi kwenye mkutano baada ya tukio. Mtu huenda, au mtu asiye na nafasi huenda kisha wakili.

Chagua hundi zinazolingana na kipenyo cha mlipuko. Uhakiki wa kiwango cha ukaguzi wa tahajia kwa chapisho la kijamii. Hundi ya chanzo kwa chochote kinachodai ukweli. Mtaalamu wa chochote kinachohusiana na dawa, sheria, mikopo, na shughuli muhimu za usalama. Kwa hao, mwanadamu hayuko "katika kitanzi". Mwanadamu ndiye kitanzi. Mfano ni kijiti. Huo sio shaka kama utu. Huo ni ladha.

Kwa sasa mtindo ni kuficha hundi nyuma ya kitufe cha kutuma kinachong'aa. Siku hizi ndivyo unavyoweza kugeuza uvumi kiotomatiki kwa bahati mbaya. Hivi majuzi nimekuwa nikiumia sana kuhusu hili, na kazi imekuwa bora zaidi.

Jinsi ya kuuliza ili upate mkosaji

Unaweza kuhoji mifumo hii bila kuwa mtaalamu wa kutilia shaka mwanga wa jua.

• Uliza kwa makusudi kutokuwa na uhakika. "Ni nini kingefanya hili liwe baya?" inapiga "fanya liwe na uhakika".

• Gawanya urejeshaji kutoka kizazi unapoweza. Angalia vifungu kwanza. Kisha uombe maandishi.

• Badilisha vazi. Rudia. Iombe itoe hoja kinyume chake. Usikivu wa haraka ni tochi ukiitumia hivyo.

• Vizuizi vya kulazimisha: "kutoka tu kwenye maandishi niliyobandika", "ikiwa hayapo, sema hayapo". Mifano ni ya kushangaza kutii hili... hadi wasipofanya hivyo. Angalia hata hivyo.

• Pendelea kazi zenye kithibitishaji. Vikusanyaji, viunganishi, ukaguzi wa schema, jozi ya pili ya macho. Uaminifu unapenda kipima daraja.

• Jihadhari na maelezo: uwazi zaidi. Umbo linaloonekana kwa usahihi, kesi iliyopewa jina, kifungu chenye nambari nadhifu - hapo ndipo ndoto za usiku hupenda kuvaa vizuri.

• Weka hatua ya kibinadamu ikionekana. Ikiwa kiolesura cha mtumiaji kinaficha hundi, watu huiruka hundi. Hiyo ni samani, si upotovu wa maadili.

Hakuna hata moja kati ya haya linalofanya modeli kuwa "ya kweli". Linafanya kitanzi kisidanganyike sana. Ambayo, nadhani, ndiyo bidhaa.

Ramani inakuacha wapi

Kwa hivyo. Swali la ndiyo/hapana linafanya kazi kama mlango tu.

Je, AI Inaaminika? Sio kama sifa. Kama sifa ya kazi, seti ya data, kitanzi cha urejeshaji, tathmini ambayo si onyesho, na mwanadamu ambaye bado anapaswa kumaanisha. Ufasaha utaendelea kutudanganya kwa sababu sisi ni wanyama wa lugha na mifumo hii ni mashine za lugha. Muda wa kufanya kazi utaendelea kuchanganyikiwa na ukweli kwa sababu zote mbili zinahisi kama "ilifanya kazi". Waendeshaji nakala wataendelea kupata pesa zao katikati iliyochanganyikiwa - rasimu, muhtasari unaoweza kupitia, msimbo unaoweza kukusanya - na si salama tunapotoa uamuzi kwa aya ambayo haiwezi kujali.

Zitumie pale ambapo kukosa ni rahisi au kunawezekana. Punguza mwendo pale ambapo kukosa ni ghali. Hilo ndilo jibu la moja kwa moja, na lina thamani zaidi ya kauli mbiu.

Ukichukua jambo moja: acha kuuliza modeli kama ina uhakika. Angalia kinachotokea unapoiuliza jinsi inaweza kuwa na makosa. Kisha nenda ukague.

Mfano halisi: Kujenga msaidizi wa AI wa sera ya uanachama

Hali

Priya anaendesha maarifa kwa Harbour Membership, shirika la biashara la watu 70 la Uingereza kwa ajili ya gyms huru. Watu watatu hujibu maswali ya wanachama. Chanzo cha ukweli ni kitabu cha mwongozo cha kurasa 180, kinachosasishwa kila robo mwaka, pamoja na PDF za zamani katika hifadhi ya pamoja ambayo hakuna mtu aliye na moyo wa kufuta.

Uongozi tayari umenunua rubani msaidizi wa dawati la usaidizi. Onyesho lilikuwa zuri. Muda wa kufanya kazi umekuwa mzuri. Katika wiki ya pili, rasimu fasaha inamwambia mwanachama kwamba anaweza kufungia kwa siku 14 na kurejeshewa pesa zake zote "kama kawaida". Hiyo sio sera. Wakala aliipata kwa sababu bado wanafungua kitabu cha mwongozo wakati pesa zinahusika. Swali la Uongozi, lililotumwa kana kwamba ni ndiyo au hapana, ni: je, akili bandia inaaminika?

Priya anakataa uamuzi huo. Anauchukulia kama ramani. Kazi si "kuwapa wanachama unabii". Ni "kuandika jibu kutoka kwa kitabu cha sasa, kuonyesha kifungu, na kushindwa kufungwa kifungu kinapokosekana". Ikiwa rubani msaidizi hawezi kufanya hivyo, ni toy ya kuchora, si dawati la sera.

Kile ambacho msaidizi anahitaji

• Kitabu cha mwongozo cha Aprili 2026 kama shirika pekee linaloruhusiwa, lenye nambari za sehemu ambazo hazijakamilika

• PDF ya zamani ya 2023 iliachwa kwenye hifadhi kimakusudi, ili waweze kuona kama urejeshaji utafanikiwa

• Sheria iliyoandikwa: hakuna data binafsi ya mteja katika zana za watumiaji; hakuna kutuma bila mwanadamu; hakuna nambari za kubuni, madirisha, au vifungu vya "kama kawaida"

• Ruhusa ya kuweka kumbukumbu za vidokezo, vipande vilivyopatikana, na utumaji wa mwisho

• Mmiliki aliyetajwa (Priya) ambaye ataweka alama kwenye seti ya majaribio na kumsimamisha rubani msaidizi ikiwa itashindwa, amefungwa vibaya zaidi kuliko sarafu ya kutupa kwenye maswali ya pesa

• Ikiwa kifaa kinaunga mkono urejeshaji, kipande kilichopatikana lazima kionekane karibu na rasimu. Ikiwa hakionekani, wataweka sehemu hiyo kwa mkono. Kusaga bila njia inayoweza kukaguliwa bado ni ukungu.

Mfano wa maelekezo

Priya anaweka hili kwa lugha ya kawaida, si kwa njia ya kuigiza jukwaani:

Jibu kutoka kwa vifungu vya kitabu cha mwongozo cha Aprili 2026 pekee ulivyopewa. Nukuu nambari ya sehemu. Ikiwa jibu halipo katika vifungu hivyo, sema "sio katika kitabu cha mwongozo cha sasa" na uache. Usivumbue madirisha ya kufungia, sheria za kurejeshewa pesa, au ada. Usiboreshe "kwa hiari ya ukumbi wa mazoezi" kuwa "kama kawaida". Ikiwa vifungu viwili vinapingana, onyesha vyote viwili na useme ni kipi cha sasa. Unaandika rasimu ya mtu ambaye atafungua chanzo kabla ya chochote kwenda kwa mwanachama.

Kisha anaweka maagizo ya pili kwa ajili yake mwenyewe, kwa sababu lengo la makala ni mzunguko, si mfano:

Kabla ya kutuma, fungua sehemu iliyotajwa. Uliza "ni nini kingefanya hili liwe baya?" Ikiwa rasimu ina nambari ambayo haipo kwenye kifungu, ikatae. Ikiwa niliuliza kama bosi kwa haraka, uliza tena kama mwenye shaka na ulinganishe.

Rasimu nzuri inaonekana kama hii: "Sio katika kitabu cha sasa (Aprili 2026, kifungu cha 4.2). Kuganda ni kwa hiari ya gym. Marejesho si ya kiotomatiki. Kuongezeka." Rasimu mbaya inaonekana kama hii: "Wanachama wanaweza kuganda kwa siku 14 na kupokea marejesho kamili kama kawaida. Imethibitishwa katika kitabu cha mwongozo." Sauti hiyo hiyo. Moja tu kati ya hizo ni sera.

Jinsi ya kuijaribu

Priya anaandika maswali 20 kabla ya kuangalia matokeo yoyote ya majaribio ya msaidizi. Mpangilio huo ni muhimu. Onyesho ni mwangaza. Huu ni mtihani kavu.

Seti si mambo madogo. Ni dawati la moja kwa moja:

• Maswali manane ambayo majibu yake yako katika sehemu moja ya sasa (yale rahisi)

• Makosa manne yaliyokaribia kukosekana, ambapo PDF ya 2023 inakaribia zaidi maneno kuliko maandishi ya Aprili

• Maswali matatu "hayamo kwenye kitabu cha mwongozo" (migogoro ya bili, swali linalohusiana na matibabu "je, mafunzo haya ni salama", marekebisho ya mkataba unaohusiana na kisheria)

• Maswali matatu ya pesa (kufungia, kurejeshewa pesa, ada ya kujiunga)

• Maswali mawili ya kawaida ya wanachama (saa za kufungua, bima ya mkufunzi)

Wawili kati ya hao ishirini pia waliulizwa tena wakiwa wamevaa vazi la pili, mara moja kama bosi mwenye haraka na mara moja kama mwenye shaka, kama ukaguzi wa haraka wa unyeti. Maswali hayo yaliandikwa, hayakuwekwa katika alama ya vipengee 20.

Rubric, iliyoandikwa na Priya huku kitabu cha mwongozo kikiwa wazi: pasi inahitaji sheria sahihi ya sasa, nambari halisi ya sehemu, na hakuna kifungu cha ziada kilichobuniwa. Kufeli kimya kimya ni sentensi nzuri kitaalamu ambayo iliondoa ubaguzi au kugeuza labda kuwa lazima. Kufeli wazi ni nambari iliyobuniwa au PDF iliyokaribia kukosa inayochukuliwa kama ya sasa. Muda wa ziada huhesabiwa kando, kwa sababu "ilijibu" si "ilikuwa hivyo".

Kukubalika kwa kwenda mbali zaidi: kuhusu masuala ya pesa, kushindwa kumefungwa badala ya kushindwa kufunguliwa. Ikiwa rubani msaidizi atabuni dirisha la kurejeshewa pesa, haliandiki tiketi za moja kwa moja. Ikiwa hakuna mtu atakayefungua chanzo, haliandiki tiketi za moja kwa moja pia.

Matokeo

Matokeo ya kielelezo, kutoka kwa jaribio la maswali 20 lililobuniwa, si takwimu ya Uanachama wa Bandari iliyochapishwa.

Mawazo: rubani mmoja msaidizi wa dawati la usaidizi; kitabu cha mwongozo cha Aprili 2026 pamoja na PDF iliyobaki ya 2023; Priya alifunga dhidi ya rubriki hapo juu; muda ulikuwa saa ya simu kutoka swali lililobandikwa hadi "Ningetuma hii"; muda wa ukaguzi umejumuishwa katika hali ya kitanzi na haujajumuishwa katika ile ambayo haijachaguliwa, kwa makusudi, kwa hivyo ulinganisho unabaki sawa.

Kielelezo cha majaribio cha aina ya pili ambacho hakijachaguliwa, cha mtindo wa majaribio: Maswali 20 kati ya 20 yalipata jibu fasaha (muda wa ziada ulionekana mzuri). Maswali 11 kati ya 20 yalifikia kiwango cha juu. Maswali matano yalikuwa yameshindwa kimya kimya. Maswali manne yalikuwa yameshindwa wazi, ikiwa ni pamoja na kuganda kwa siku 14. Maswali mawili kati ya manne yameshindwa wazi yalitaja kipande chenye umbo la chanzo kutoka kwa PDF ya 2023. Muda wa wastani hadi rasimu inayoonekana kama inayoweza kutumwa ulikuwa dakika 1.

Maswali yaleyale 20, maelekezo yenye vikwazo, yaliyopatikana yalionekana: 15 kati ya 20 yalikuwa sahihi kabisa kutoka kwa maandishi ya Aprili. Matatu kwa usahihi yalisema "hayamo kwenye kitabu cha mwongozo cha sasa" (vipengele vya matibabu na kisheria, pamoja na mzozo mmoja wa bili), kwa hivyo 18 kati ya 20 vilikubalika. Mawili bado yalishindwa: moja liliandika kupitia PDF ya karibu ya 2023, na moja lilibuni kiasi cha ada ya kujiunga ambacho hakikuwa kwenye kifungu. Muda wa wastani wa rasimu ulikuwa bado kama dakika 1.

20 sawa, pamoja na Priya kufungua sehemu iliyotajwa kabla ya kutuma ujumbe kwa njia ya simulizi: 19 kati ya 20 ingekubalika. Alinasa PDF iliyokaribia kukosa. Mkosaji aliyebaki alikuwa mhakiki akisoma aya kwa ufasaha bila kugundua takwimu ya ada ya kujiunga iliyobuniwa. Muda wa wastani, ukaguzi ukijumuisha, ulikuwa dakika 3.

Mchakato wa zamani, utafutaji wa kitabu cha mwongozo pekee, hakuna rubani msaidizi: 20 kati ya 20 inakubalika. Wastani wa dakika 9.

Katika sampuli hii, rubani msaidizi aliyekuwa na mzunguko alikuwa na kasi ya dakika 6 kuliko uwindaji wa kitabu (9 ukiondoa 3), au dakika 120 katika maswali 20, huku 19 kati ya 20 yakikubalika badala ya 20 kati ya 20. Rubani msaidizi ambaye hajatibiwa alikuwa na kasi ya dakika 8 (9 ukiondoa 1) na sivyo, kimya kimya au kwa sauti kubwa, katika 9 kati ya 20. Hiyo si kuokoa muda wa 67% uliyoweka kwenye kifurushi cha usukani. Ni uvujaji wa makosa 9 ambao ungekuwa umejiendesha.

Matoleo ya maswali mawili yaliyorudiwa kwa haraka yalizidisha. Matoleo ya kutilia shaka yalizingirwa. Mfano mmoja, kitabu kimoja cha mwongozo, vazi tofauti. Priya aliliona hilo kama ugunduzi, si kama utu.

Takwimu hizi ni mfano wa makadirio kulingana na jaribio lililotajwa, seti ndogo, tikiti ambazo zilikuwa rahisi kuliko mwanachama mwenye hasira, na mhakiki mmoja ambaye tayari alikuwa akijua kitabu hicho. Hazionyeshi kwamba rubani msaidizi anaaminika "95%", au kwamba Harbour inapaswa kupunguza mtu wa mezani. Zinaonyesha kwamba muda wa kufanya kazi haukuwa swali, na kwamba hundi ilikuwa.

Ni nini kinachoweza kwenda vibaya

• Uongozi unanukuu muda wa rasimu wa dakika 1 na kuruka makosa 9. Kasi bado inaonekana kama uwezo saa 4pm.

• PDF ya 2023 inabaki kwenye orodha. Urejeshaji unaendelea kuichukua. Kutuliza kunaonekana kuwa mtu mzima na bado ni jambo lisilowezekana.

• Kiolesura cha mtumiaji huficha kipande kilichopatikana nyuma ya kitufe cha kutuma kinachong'aa. Watu huacha kufungua kitabu cha mwongozo, na ndivyo jibu la kufungia linavyomfikia mshiriki.

• Priya anapata alama za maswali manane rahisi pekee kwa sababu yanaonekana mazuri zaidi kwenye slaidi. Ukumbi wa tathmini, kwa kutumia lahajedwali pekee.

• Jibu la karibu la kimatibabu "je, mafunzo haya ni salama" linaruhusiwa kuonekana kama fupi. Ramani ilisema karibu kamwe. Sauti ilisema endelea.

• Kumbukumbu zimezimwa kwa sababu "ilionekana kama ya ziada". Baada ya kukosa, hakuna anayeweza kuona ni kifungu gani kilichopatikana.

• Wanauliza modeli kama ina uhakika. Ndiyo. Hilo halikuwa jaribio kamwe.

Kuchukua kwa vitendo

Uaminifu si sifa ya rubani msaidizi aliyenunuliwa. Ni sifa ya maswali 20, kitabu cha mwongozo cha sasa, kifungu kinachoonekana, na mtu ambaye bado anafungua chanzo wakati pesa zinahusika. Ufasaha utaendelea kufaulu mtihani wa muda wa ziada. Kitanzi ndicho kitu pekee kinachofaulu mtihani wa sera.

Maswali Yanayoulizwa Mara kwa Mara

Je, kuaminika kunamaanisha nini hata kwa AI ya uzalishaji?

Utegemezi wa kila siku unamaanisha unaweza kutegemea kitu. Kwa otomatiki inayozungumza, kundi zima la sifa hujificha chini ya neno moja: ukweli, uthabiti, urekebishaji, usalama, muda wa kufanya kazi, unyeti wa haraka, kesi za ukingo, na tabia baada ya mabadiliko ya usambazaji. Hakuna hata moja kati ya hizo inayoshindwa pamoja. Jaribio la moja kwa moja linaaminika kwa nini, kwa nani, kwa mzunguko gani unaozunguka. Vinginevyo unaweka alama kwenye blender kuhusu kama inaweza kulipa kodi.

Je, AI Inaaminika?

Sio kama sifa. LLM inaweza kuwa imara katika kazi moja na kuachwa kimya kimya katika kazi inayofuata, wakati mwingine katika kikao kimoja, wakati mwingine kwa sababu umehamisha koma. Uaminifu ni sifa ya kazi, seti ya data, kitanzi cha urejeshaji, tathmini ambayo si onyesho, na mwanadamu ambaye bado anapaswa kumaanisha. Itumie pale ambapo kukosa ni rahisi au kunakoweza kushikika. Punguza mwendo pale ambapo kukosa ni ghali.

Je, muda wa kufanya kazi kwa AI ni sawa na ukweli?

Hapana. Muda wa kufanya kazi ni kama jibu la mwisho lilijibu. Ukweli ni kama jibu lilikuwa hivyo. Unaweza kuwa na huduma ambayo haipepesi macho kamwe na bado ikatuma uongo fasaha kwenye tiketi ya mteja. Kasi inahisi kama uwezo wakati foleni ni mbovu. Usalama ni mhimili mwingine: mfumo unaokataa kuvunjika kwa gereza bado unaweza kuharibu muhtasari wa maelezo yako mwenyewe.

Kwa nini AI fasaha huhisi kuaminika hata kama ni makosa?

Usahihi na ufasaha vilitengana, na ufasaha uliiweka nyumba katika hali nzuri. LLM itakupa mdundo, uzio, labda umbo la nukuu bandia lakini nzuri, na ubongo wako unasoma "mtu huyu anajua." Urekebishaji mara nyingi ni mbaya: kujiamini sana, ukweli wa kati, unaotolewa kama muhtasari. Jibu lisilo sahihi linalokufanya uwe na shaka. Jibu lisilo sahihi linalokufanya uache kuangalia. Likizungumza kama muhtasari, tunalichukulia kama muhtasari, na hivyo ndivyo kosa linavyoingia kwenye deki.

Je, AI Inaaminika kwa kazi za matibabu, kisheria, au za usaidizi kwa wateja?

Inategemea kazi, si chapa. Ushauri wa kimatibabu na kisheria karibu hautoshi kama bidhaa: modeli ni kijitabu na mwanadamu ndiye mtaalamu. Huduma kwa wateja inaweza kuandika sera ndani ya sera ngumu, lakini mtu anapaswa kumiliki kutuma pesa na uaminifu, kwa sababu sera iliyobuniwa na hapana ya heshima isiyo sahihi ni kushindwa kwa kawaida. Rasimu na muhtasari ni maandishi ya kwanza ambayo tayari unayajua. Angalia majina, nambari, na mstari ambao ungeumiza.

Kwa nini AI hudanganya, huteleza, au hukosea kimya kimya?

Kuona ndoto ni jambo la kusikitisha: kitabu ambacho hakipo, kazi ambayo haijawahi kusafirishwa, kifungu cha sera chenye nambari inayohisi rasmi. Mzunguko wa mawazo hauhusiani sana na sinema: ulimwengu unasonga, mabaki ya mwanamitindo hubaki, na unapata jibu lililopangwa vizuri kutoka kwa hali ya hewa ya awali. Upotovu wa kimya kimya ni muhtasari unaoondoa ubaguzi. Au ufupisho unaoboresha labda kuwa lazima. Ukweli unaweza kuonekana mzuri kitaalamu huku maana ikiwa imeteleza. Usikivu wa haraka hufanya ukweli kung'aa unapobadilisha ufungashaji.

Je, kutuliza au kurejesha data kunafanya AI iwe ya kuaminika?

Kutuliza kunamaanisha jibu kutoka kwa hili, sio kutoka kwa ukungu. Kurudisha zawadi huiweka kwenye rundo lililofunzwa. Inaposhindwa, hushindwa kwa adabu: hati iliyo karibu kukosekana, maandishi yaliyoandikwa, na silika yako ya kuangalia huzima. Kutuliza ni sakafu, sio halo. Ikiwa huwezi kukagua kipande kilichopatikana, bado uko kwenye ukungu, ukiwa na mwangaza bora zaidi. Changanya kazi za hali ya moja kwa moja kama vile bei au maneno ya sera na ufundi thabiti, na unapata jibu la uhakika kuhusu ulimwengu ambao tayari umehama.

Kwa nini onyesho ni jaribio baya la uaminifu wa akili bandia (AI)?

Kidokezo safi na kazi ambayo modeli imeona ndugu elfu moja wa modeli wataonekana wazuri. Mtiririko wa kazi wa moja kwa moja una mchanganyiko wa kubandika, faili zinazokosekana, na mtumiaji ambaye atakubali jibu la kwanza linalopunguza wasiwasi wao. Alama ya ubao wa wanaoongoza si urekebishaji kwenye tiketi zako. Hatari ya modeli ni kile kinachotokea wakati hii si sahihi kwa ujazo, si kama ilipita seti ya maswali na majibu. Majaribio unayohitaji hayafanyi kazi: kaa ndani ya kifungu kilichopatikana, onyesha kutokuwa na uhakika badala ya kudanganya, kaa thabiti unapoandika upya, na ushindwe kufungwa badala ya kubuni.

Je, AI inaaminika ikiwa hakuna mtu anayehusika?

Hapana. Ikiwa hakuna anayewajibika, mfumo utatumika kana kwamba upo. Kitanzi cha kibinadamu ndio muundo pekee unaolingana na hali za kushindwa: ni nani anayehakiki, ni nani anayeweza kuizuia, ni nini kinachoandikwa, ni nini kinachotokea baada ya kukosa. Ikiwa jibu ni "modeli," huna jibu. Wanamitindo hawaendi kwenye mkutano baada ya tukio. Kwa dawa, sheria, sifa, au shughuli muhimu za usalama, mwanadamu ndiye kitanzi na modeli ni kijiti.

Ninawezaje kushawishi AI ili niweze kugundua makosa?

Uliza kwa makusudi kutokuwa na uhakika: "Ni nini kingefanya hili liwe baya?" hupiga "fanya liwe na uhakika." Gawanya urejeshaji kutoka kizazi unapoweza. Angalia vifungu kwanza, kisha uombe maandishi. Badilisha vazi: badilisha, au uombe libishane kinyume. Lazimisha vikwazo kama vile "kutoka kwa maandishi niliyobandika pekee" au "ikiwa unakosa, sema unakosa," na bado angalia. Pendelea kazi zenye kithibitishaji, na uangalie umaalum wa ziada, kwa sababu hapo ndipo ndoto za usiku hupenda kuvaa vizuri.

Marejeleo

1. NIST - nvlpubs.nist.gov

2. NIST - airc.nist.gov

3. NIST - airc.nist.gov

4. ICO - ico.org.uk

5. NCSC - www.ncsc.gov.uk

6. NCSC - www.ncsc.gov.uk

7. OWASP - genai.owasp.org

Pata Akili ya Kielektroniki ya Hivi Punde katika Duka Rasmi la Msaidizi wa Akili ya Kielektroniki

Kuhusu Sisi