Watu wanataka uamuzi rahisi. Bandika aya, bonyeza kitufe, na kigunduzi kinakupa asilimia ndogo nadhifu ya Ukweli
Isipokuwa uandishi si nadhifu. Na "maandishi ya AI" pia si kitu . Ni supu. Wakati mwingine yanatengenezwa kikamilifu, wakati mwingine yanasaidiwa kidogo, wakati mwingine ni rasimu ya binadamu yenye ung'avu wa AI, wakati mwingine ni rasimu ya binadamu yenye sentensi chache za roboti zinazoingia kama paka wakati wa chakula cha jioni 😼.
Kwa hivyo swali linakuwa kama vigunduzi vya akili bandia (AI) vinaaminika .
Zinaweza kuwa na manufaa kama kidokezo - msukumo, ishara ya "labda angalia kwa karibu". Lakini si za kuaminika kama uthibitisho . Hata karibu. Na hata kampuni zinazojenga vigunduzi huwa zinasema hivi kwa njia moja au nyingine (wakati mwingine kwa sauti kubwa, wakati mwingine kwa maandishi madogo). Kwa mfano, OpenAI imesema haiwezekani kugundua kwa uaminifu maandishi yote yaliyoandikwa na AI , na hata nambari za eval zilizochapishwa zinazoonyesha viwango vya makosa na chanya za uongo. [1]
Makala unayoweza kupenda kusoma baada ya hii:
🔗 Jinsi ugunduzi wa akili bandia unavyofanya kazi
Tazama jinsi zana zinavyogundua uandishi wa AI kwa kutumia mifumo na uwezekano.
🔗 Jinsi AI inavyotabiri mienendo
Elewa jinsi algoriti zinavyotabiri mahitaji kutoka kwa data na ishara.
🔗 Jinsi ya kutumia akili bandia (AI) kwenye simu yako
Njia za vitendo za kutumia programu za akili bandia kwa kazi za kila siku.
🔗 Je, ni AI ya maandishi-kwa-usemi?
Jifunze jinsi mifumo ya TTS inavyozalisha sauti asilia kutoka kwa maandishi yaliyoandikwa.
Kwa nini watu huuliza kila mara kama vigunduzi vya akili bandia (AI) vinaaminika 😅
Kwa sababu dau liliongezeka kwa kasi ya ajabu.
-
Walimu wanataka kulinda uadilifu wa kitaaluma 🎓
-
Wahariri wanataka kuzuia makala taka zisizo na juhudi nyingi 📰
-
Wasimamizi wa kuajiri wanataka sampuli halisi za uandishi 💼
-
Wanafunzi wanataka kuepuka kushtakiwa kwa uwongo 😬
-
Chapa zinahitaji sauti thabiti, si kiwanda cha maudhui cha kunakili na kubandika 📣
Na, katika kiwango cha utumbo, kuna hamu ya faraja ya mashine ambayo inaweza kusema "hii ni kweli" au "hii ni bandia" kwa uhakika. Kama kigunduzi cha chuma kwenye uwanja wa ndege.
Isipokuwa… lugha si chuma. Lugha ni kama ukungu zaidi. Unaweza kuelekeza tochi ndani yake, lakini watu bado wanabishana kuhusu walichokiona.
Kuaminika katika vitendo dhidi ya maonyesho 🎭
Katika hali zinazodhibitiwa, vigunduzi vinaweza kuonekana vya kuvutia. Katika matumizi ya kila siku, huwa nadhifu kidogo - kwa sababu vigunduzi "havioni uandishi," huona ruwaza .
Hata ukurasa wa OpenAI wa uainishaji wa maandishi ambao sasa umesitishwa unazungumzia suala kuu kwa uwazi: ugunduzi wa kuaminika hauhakikishiwi, na utendaji hutofautiana kulingana na mambo kama urefu wa maandishi (maandishi mafupi ni magumu zaidi). Pia walishiriki mfano halisi wa mabadiliko: kukamata sehemu tu ya maandishi ya AI huku wakati mwingine bado wakiandika lebo zisizofaa kwenye maandishi ya kibinadamu. [1]
Uandishi wa kila siku umejaa mambo yanayochanganya:
-
uhariri mzito
-
violezo
-
sauti ya kiufundi
-
usemi usio wa asili
-
majibu mafupi
-
muundo mgumu wa kitaaluma
-
"Niliandika haya saa nane asubuhi na akili yangu ilikuwa imechoka sana"
Kwa hivyo kigunduzi kinaweza kuwa kinaitikia mtindo , si asili. Ni kama kujaribu kutambua ni nani aliyeoka keki kwa kuangalia makombo. Wakati mwingine unaweza kukisia. Wakati mwingine unahukumu tu hisia za makombo.
Jinsi vigunduzi vya akili bandia (AI) vinavyofanya kazi (na kwa nini vinavunjika) 🧠🔧
"Vigunduzi vingi vya akili bandia" utakavyokutana navyo porini huangukia katika hali mbili pana:
1) Ugunduzi unaotegemea mtindo (kukisia kutoka kwa mifumo ya maandishi)
Hii inajumuisha mbinu za kawaida za "uainishaji" na mbinu za utabiri/utata. Zana hii hujifunza ishara za takwimu ambazo huwa zinaonekana katika matokeo fulani ya modeli ... na kisha hujumlisha.
Kwa nini inavunjika:
-
Uandishi wa kibinadamu unaweza kuonekana kama "wa kitakwimu" pia (hasa uandishi rasmi, unaoendeshwa na rubriki, au uliopangwa kiolezo).
-
Uandishi wa kisasa mara nyingi huchanganywa (binadamu + marekebisho + mapendekezo ya AI + zana za sarufi).
-
Zana zinaweza kujiamini kupita kiasi nje ya eneo lao la kustarehe la majaribio. [1]
2) Asili / alama ya maji (uthibitishaji, sio kubahatisha)
Badala ya kujaribu kukisia uandishi kutoka kwa "hisia za crumb," mifumo ya chimbuko hujaribu kuambatisha ya uthibitisho wa asili , au kupachika ishara ambazo zinaweza kukaguliwa baadaye.
Kazi ya NIST kuhusu maudhui ya sintetiki inasisitiza ukweli muhimu hapa: hata vigunduzi vya alama za maji vina chanya zisizo za uongo na hasi zisizo za uongo - na uaminifu hutegemea kama alama za maji husalia safari kutoka kwa uundaji → marekebisho → machapisho mapya → picha za skrini → usindikaji wa jukwaa. [2]
Kwa hivyo ndiyo, asili yake ni safi zaidi kimsingi ... lakini tu wakati mfumo ikolojia unaiunga mkono kutoka mwanzo hadi mwisho.
Njia kubwa za kushindwa: chanya za uongo na hasi za uongo 😬🫥
Hili ndilo jambo kuu. Ukitaka kujua kama vigunduzi vya akili bandia (AI) vinaaminika, lazima uulize: vinaaminika kwa gharama gani ?
Chanya za uongo (binadamu ameripotiwa kama AI) 😟
Hii ndiyo hali mbaya shuleni na mahali pa kazi: mwanadamu anaandika kitu, anaangaziwa, na ghafla anajitetea dhidi ya nambari kwenye skrini.
Hapa kuna muundo wa kawaida unaoumiza sana:
Mwanafunzi anawasilisha tafakari fupi (tuseme, maneno mia kadhaa).
Kigunduzi kinatoa alama inayoonekana kujiamini.
Kila mtu anaogopa.
Kisha unajifunza kuwa kifaa chenyewe kinaonya kwamba mawasilisho mafupi yanaweza kuwa yasiyoaminika sana - na kwamba alama hiyo haipaswi kutumiwa kama msingi pekee wa hatua mbaya. [3]
Mwongozo wa Turnitin mwenyewe (katika maelezo/nyaraka zake za kutolewa) unaonya waziwazi kwamba mawasilisho chini ya maneno 300 yanaweza kuwa si sahihi sana , na unakumbusha taasisi kutotumia alama ya AI kama msingi pekee wa hatua mbaya dhidi ya mwanafunzi. [3]
Chanya za uongo pia huwa zinaonekana wakati wa kuandika:
-
rasmi kupita kiasi
-
inayojirudia kulingana na muundo (rubriki, ripoti, violezo vya chapa)
-
fupi (ishara ndogo, ubashiri zaidi)
-
imesahihishwa na kung'arishwa sana
Kigunduzi kinaweza kusema kimsingi: "Hii inaonekana kama aina ya maandishi niliyoyaona kutoka kwa AI" hata kama sivyo. Hiyo si nia mbaya. Ni kulinganisha tu muundo na kitelezi cha kujiamini.
Hasi za uongo (AI haijatiwa alama) 🫥
Ikiwa mtu anatumia AI na kuhariri kwa upole - kupanga upya, kufafanua, kuingiza baadhi ya matuta ya binadamu - vigunduzi vinaweza kuikosa. Pia, zana zilizorekebishwa ili kuepuka shutuma za uongo mara nyingi zitakosa maandishi mengi ya AI kwa muundo (hiyo ndiyo mabadiliko ya kizingiti). [1]
Kwa hivyo unaweza kuishia na mchanganyiko mbaya zaidi:
-
waandishi waaminifu wakati mwingine hupigwa bendera
-
mara nyingi wadanganyifu walioazimia hawafanyi hivyo
Sio kila mara. Lakini mara nyingi vya kutosha kwamba kutumia vigunduzi kama "uthibitisho" ni hatari.
Ni nini hufanya usanidi wa kigunduzi "kizuri" (hata kama vigunduzi si kamili) ✅🧪
Kama utatumia moja hata hivyo (kwa sababu taasisi hufanya mambo ya taasisi), mpangilio mzuri hauonekani kama "jaji + jury" bali kama "ushahidi wa triage + ushahidi."
Mpangilio unaowajibika unajumuisha:
-
Vikwazo vya uwazi (maonyo mafupi ya maandishi, mipaka ya kikoa, viwango vya kujiamini) [1][3]
-
Vizingiti vilivyo wazi + kutokuwa na uhakika kama matokeo halali ("hatujui" haipaswi kuwa mwiko)
-
Ushahidi wa mapitio ya binadamu na mchakato (rasimu, muhtasari, historia ya marekebisho, vyanzo vilivyotajwa)
-
Sera zinazokatisha tamaa waziwazi maamuzi ya adhabu, yanayozingatia alama pekee [3]
-
Ulinzi wa faragha (usiweke maandishi nyeti kwenye dashibodi zisizoeleweka)
Jedwali la Ulinganisho: mbinu za kugundua dhidi ya uthibitishaji 📊🧩
Meza hii ina tabia zisizo za kawaida kimakusudi, kwa sababu hivyo ndivyo meza zinavyoonekana wakati mwanadamu anapozitengeneza huku akinywa chai baridi ☕.
| Chombo / Mbinu | Hadhira | Matumizi ya kawaida | Kwa nini inafanya kazi (na kwa nini haifanyi kazi) |
|---|---|---|---|
| Vigunduzi vya AI vinavyotegemea mtindo (zana za jumla za "alama za AI") | Kila mtu | Upimaji wa haraka | Haraka na rahisi, lakini inaweza kuchanganya mtindo na asili - na huwa na mwelekeo wa kutetemeka zaidi kwenye maandishi mafupi au yaliyohaririwa sana. [1] |
| Vigunduzi vya kitaasisi (vilivyounganishwa na LMS) | Shule, vyuo vikuu | Uashiriaji wa mtiririko wa kazi | Rahisi kwa uchunguzi, lakini ni hatari inapochukuliwa kama ushahidi; zana nyingi huonya waziwazi dhidi ya matokeo ya alama pekee. [3] |
| Viwango vya Uasili (Vitambulisho vya Maudhui / Mtindo wa C2PA) | Majukwaa, vyumba vya habari | Asili ya ufuatiliaji + mabadiliko | Imara zaidi inapotumika kuanzia mwanzo hadi mwisho; inategemea metadata inayoendelea kuishi katika mfumo mpana wa ikolojia. [4] |
| Mifumo ya kuweka alama za maji (km, mahususi kwa muuzaji) | Wauzaji wa zana, majukwaa | Uthibitishaji unaotegemea ishara | Hufanya kazi wakati maudhui yanatoka kwenye zana za kuweka alama za maji na yanaweza kugunduliwa baadaye; si ya ulimwengu wote, na vigunduzi bado vina viwango vya makosa. [2][5] |
Vigunduzi katika elimu 🎓📚
Elimu ndiyo mazingira magumu zaidi kwa vifaa vya kugundua kwa sababu madhara yake ni ya kibinafsi na ya papo hapo.
Mara nyingi wanafunzi hufundishwa kuandika kwa njia zinazoonekana kama "formula" kwa sababu wamepewa alama halisi kulingana na muundo:
-
kauli za nadharia
-
violezo vya aya
-
sauti thabiti
-
mabadiliko rasmi
Kwa hivyo vigunduzi vinaweza kuishia kuwaadhibu wanafunzi kwa… kufuata sheria.
Ikiwa shule inatumia vigunduzi, mbinu inayoweza kujitetea zaidi kwa kawaida hujumuisha:
-
vigunduzi kama triage pekee
-
hakuna adhabu bila ukaguzi wa kibinadamu
-
nafasi kwa wanafunzi kuelezea mchakato wao
-
historia ya rasimu / mihtasari / vyanzo kama sehemu ya tathmini
-
ufuatiliaji wa mdomo inapobidi
Na ndiyo, ufuatiliaji wa mdomo unaweza kuhisi kama kuhojiwa. Lakini unaweza kuwa wa haki zaidi kuliko "roboti anasema ulidanganya," hasa wakati kigunduzi chenyewe kinapoonya dhidi ya maamuzi ya alama pekee. [3]
Vigunduzi vya kuajiri na kuandika mahali pa kazi 💼✍️
Uandishi wa mahali pa kazi mara nyingi huwa:
-
kiolezo
-
iliyosuguliwa
-
kurudia
-
imehaririwa na watu wengi
Kwa maneno mengine: inaweza kuonekana kama algoriti hata kama ni ya kibinadamu.
Ikiwa unaajiri, mbinu bora kuliko kutegemea alama ya kigunduzi ni:
-
omba maandishi yanayohusiana na kazi halisi
-
ongeza ufuatiliaji mfupi wa moja kwa moja (hata dakika 5)
-
tathmini hoja na uwazi, si "mtindo" tu
-
ruhusu wagombea kufichua sheria za usaidizi wa akili bandia mapema
Kujaribu "kugundua AI" katika mifumo ya kisasa ya kazi ni kama kujaribu kugundua kama mtu alitumia ukaguzi wa tahajia. Hatimaye unagundua kuwa ulimwengu ulibadilika huku ukiwa humtazami. [1]
Vigunduzi vya wachapishaji, SEO, na udhibiti 📰📈
Vigunduzi vinaweza kusaidia kwa upimaji wa kundi : kuripoti rundo la maudhui yanayotiliwa shaka kwa ajili ya ukaguzi wa kibinadamu.
Lakini mhariri makini wa kibinadamu mara nyingi hugundua matatizo ya "AI-ish" haraka kuliko kigunduzi, kwa sababu wahariri hugundua:
-
madai yasiyoeleweka bila maelezo maalum
-
sauti ya kujiamini bila ushahidi
-
umbile halisi linalokosekana
-
kifungu cha maneno "kilichokusanywa" ambacho hakionekani kama kimeunganishwa ndani
Na hapa kuna mabadiliko: hiyo si nguvu kubwa ya kichawi. Ni silika ya uhariri tu ya ishara za uaminifu .
Njia mbadala bora kuliko ugunduzi halisi: asili, mchakato, na "onyesha kazi yako" 🧾🔍
Ikiwa vigunduzi havitegemewi kama uthibitisho, chaguo bora huwa hazionekani kama alama moja tu bali kama ushahidi wa tabaka.
1) Ushahidi wa mchakato (shujaa asiye na sifa) 😮💨✅
-
rasimu
-
historia ya marekebisho
-
maelezo na mihtasari
-
marejeleo na njia za chanzo
-
udhibiti wa matoleo kwa ajili ya uandishi wa kitaalamu
2) Ukaguzi wa uhalisia ambao "hauelewi" 🗣️
-
"Kwa nini ulichagua muundo huu?"
-
"Ni njia gani mbadala uliyokataa na kwa nini?"
-
"Eleza aya hii kwa mtu mdogo."
3) Viwango vya Uasili + alama ya maji inapowezekana 🧷💧
Vitambulisho vya Maudhui vya C2PA vimeundwa ili kuwasaidia hadhira kufuatilia asili na historia ya uhariri wa maudhui ya kidijitali (fikiria: dhana ya "lebo ya lishe" kwa vyombo vya habari). [4]
Wakati huo huo, mfumo ikolojia wa SynthID wa Google unazingatia uwekaji alama wa maji na ugunduzi wa baadaye wa maudhui yanayozalishwa kwa kutumia zana za Google zinazoungwa mkono (na lango la kigunduzi linalochanganua vipakiaji na kuangazia maeneo yanayoweza kuwa na alama wa maji). [5]
Hizi ni zinazofanana na uthibitisho - si kamilifu, si za ulimwengu wote, lakini zinaelekeza katika mwelekeo ulio wazi zaidi kuliko "nadhani kutoka kwa hisia." [2]
4) Sera zilizo wazi zinazolingana na uhalisia 📜
"Akili bandia imepigwa marufuku" ni rahisi ... na mara nyingi si kweli. Mashirika mengi yanaelekea:
-
"Akili bandia iliruhusu kutafakari, sio uandishi wa mwisho"
-
"Akili bandia inaruhusiwa ikiwa itafichuliwa"
-
"Akili bandia iliruhusu sarufi na uwazi, lakini hoja asili lazima iwe yako"
Njia ya uwajibikaji ya kutumia vigunduzi vya akili bandia (ikiwa ni lazima) ⚖️🧠
-
Tumia vigunduzi kama bendera pekee
. Sio hukumu. Sio kichocheo cha adhabu. [3] -
Angalia aina ya maandishi
Jibu fupi? Orodha ya vitone? Imehaririwa sana? Tarajia matokeo ya kelele zaidi. [1][3] -
Tafuta ushahidi wa msingi
Rasimu, marejeleo, sauti thabiti kwa wakati, na uwezo wa mwandishi kuelezea chaguo. -
Tuseme uandishi mchanganyiko ni wa kawaida sasa
Binadamu + wahariri + zana za sarufi + mapendekezo ya akili bandia + violezo ni… Jumanne. -
Kamwe usitegemee nambari moja
Alama za mtu mmoja huhimiza maamuzi ya uvivu - na maamuzi ya uvivu ndiyo jinsi shutuma za uongo zinavyotokea. [3]
Ujumbe wa kumalizia ✨
Kwa hivyo, picha ya kuegemea inaonekana kama hii:
-
Inaaminika kama kidokezo cha kawaida: wakati mwingine ✅
-
Uthibitisho wa kuaminika: hapana ❌
-
Salama kama msingi pekee wa adhabu au kuondolewa kwa amri: sivyo kabisa 😬
Tibu vigunduzi kama kengele ya moshi:
-
inaweza kupendekeza unapaswa kuangalia kwa karibu zaidi
-
haiwezi kukuambia haswa kilichotokea
-
haiwezi kuchukua nafasi ya uchunguzi, muktadha, na ushahidi wa mchakato
Mashine za ukweli za kubofya mara moja kwa kiasi kikubwa ni za kubuni sayansi. Au infomercials.
Marejeleo
[1] OpenAI - Kiainishaji kipya cha AI kwa ajili ya kuonyesha maandishi yaliyoandikwa na AI (inajumuisha mapungufu + majadiliano ya tathmini) - soma zaidi
[2] NIST - Kupunguza Hatari Zinazotokana na Maudhui ya Sintetiki (NIST AI 100-4) - zaidi
[3] Turnitin - Kielelezo cha kugundua uandishi wa AI (inajumuisha tahadhari kuhusu maandishi mafupi + kutotumia alama kama msingi pekee wa hatua mbaya) - soma zaidi
[4] C2PA - Muhtasari wa C2PA / Kitambulisho cha Maudhui - soma zaidi
[5] Google - Kigunduzi cha SynthID - lango la kusaidia kutambua maudhui yaliyozalishwa na AI - soma zaidi