Mkurugenzi Mtendaji wa Anthropic aelezea mpango wa kupunguza kasi ya maendeleo ya akili bandia
Dario Amodei ameiomba tasnia… kupunguza mwendo. Sio kusimama. Kasi. Insha ndefu, hatua tatu, na onyo kwamba kujiboresha upya tayari kunaiva haraka kuliko watu wazima wanavyoweza kukagua.
Anthropic inawaalika watathmini waliojikita ndani ya jengo hilo - beji, dawati, kompyuta mpakato, na haki ya kuchapisha matokeo bila kichujio cha PR. Kisha anataka maabara za kidemokrasia ziratibu viwango vya usalama. Kisha, kwa namna fulani, makubaliano na serikali za kimabavu. Rahisi kwenye karatasi. Ni vigumu kila mahali pengine.
Bado anasema AI inaweza kuwa muujiza. Pia anasema kundi lenye uwezo zaidi wa kupanga vibaya linaweza kutawala mtandao kwa kutumia mtandao wa botnet unaoendelea na kusababisha uharibifu wa mamia ya mabilioni. Sentensi hizo mbili zimekaa karibu na hazipatani.
Na anataka msamaha mdogo wa kutokukiritimba ili mazungumzo ya usalama yasiwe tatizo la kisheria. Breki huja na makaratasi. Bila shaka yanahitajika.
Sam Altman anathibitisha OpenAI haitatangazwa hadharani mwaka huu, akisema IPO sasa itakuja wakati 'usiofaa' kutokana na wasiwasi wa usalama wa AI
Altman aliketi chini kwa mahojiano ya kipekee na akamaliza kalenda ya kuorodhesha. IPO hivi sasa, alisema, itakuwa "wakati usiofaa." Kazi ya usalama haijakamilika. Upangaji haujakamilika. Jamii haiko tayari. Walipomlazimisha - sio mwaka huu.
Mabenki walikuwa tayari wanazunguka. Faili ya siri ipo. Sasa Mkurugenzi Mtendaji anasema wana mambo mengi ya kufanya kwanza, ikiwa ni pamoja na kubaini jinsi sekta na serikali zinavyofanya kazi pamoja. Alisikika karibu amefarijika kusubiri.
Pia alisema kujenga AI zaidi ya udhibiti wa binadamu kunawezekana "kabisa" - kisha akaapa kwamba angesimamisha mafunzo ikiwa hiyo ndiyo njia. Kwa ujasiri. Pia ni rahisi, labda. Labda zote mbili. Mkanganyiko wa mashirika yasiyo ya faida/ya faida, alisema, upo ili waweze kupiga simu ambazo hazionekani kuwa za maslahi ya wanahisa. Tutaona kama sentensi hiyo itasalia kuwasiliana na prospekta halisi.
Sam Altman wa OpenAI adokeza makubaliano na kampuni zingine za akili bandia ili kushughulikia hatari za usalama
Mahojiano yaleyale, kichwa cha habari tofauti, na huu ni msemo. Kukaa chini na Amodei, Musk, na Demis Hassabis ni hatua ya kawaida inayofuata. Altman: anafikiri hilo litatokea. Hatatangaza mazungumzo ya faragha mapema. Kisha kimsingi aliyatangaza mapema.
Hatari ya janga yenye tarakimu mbili haikubaliki, alisema. Mifumo ambayo bado haijatolewa tayari ina uwezo mkubwa kiasi kwamba kusonga mbele bila ufuatiliaji bora huhisi kama uzembe. Mkataba halisi na mazingira yaliyovuja kwa uangalifu yanaweza kuonekana sawa kutoka nje.
Wafanyakazi walikuwa tayari wamesikia toleo la hili ndani. Hadharani bado kuna ukungu. Ikiwa chumba kitatokea, vizuri. Ikiwa hakitatokea, nukuu bado ilifanya kazi.
Sam Altman anaunga mkono wito wa Dario Amodei wa kupunguza mwendo, na anasema OpenAI itafanya vivyo hivyo
Saa chache baada ya insha, Altman alichapisha kwamba OpenAI italingana na ahadi ya mtathmini aliyepachikwa. Ufikiaji kama wa mfanyakazi. Mengi ya kushiriki hivi karibuni. Musk aliandika maneno matatu: "Dario yuko sahihi." Wakurugenzi Wakuu watatu washindani. Kauli mbiu moja. Nishati isiyo na utulivu ya wikendi.
Uratibu na ukumbi wa michezo vinaweza kusafiri pamoja. Kipigo cha kwanza cha mpango wa Amodei sasa kina maabara mbili kubwa zaidi zikitikisa vichwa hadharani. Uso wa Kukumbatiana - ndio, Uso huo wa Kukumbatiana - uliomba kujiunga na programu ya mtathmini na kuzindua kitu kinachoitwa Mpango wa Uwiano Wazi. Uwazi kutoka kwa watu waliodukuliwa. Ushairi, au ulioelekezwa.
Ulaya, kwa thamani yake, haina mtu wa kuomba msamaha huo wa mtindo wa Marekani. Brussels iliacha kutoa msamaha wa mtu binafsi muda mrefu uliopita. Kwa hivyo salamu ya mkono ni ya Marekani. Sehemu iliyobaki ya ramani ni… kuinua mabega.
OpenAI inataka tu kushinda
Wataalamu wa hisabati hawako katika hali ya kusherehekea baada ya wikendi ya mahojiano. Mbio za Navier-Stokes za OpenAI - takriban mawakala elfu kumi, makumi ya mamilioni ya dola za hesabu, saa themanini na nane - zinaonekana kama utafutaji wa kombe kutoka ndani ya uwanja. Wataalamu wa hisabati wanataka maarifa. Maabara, wanaendelea kusema, yanataka kushinda.
Tristan Buckmaster aliwaambia OpenAI ilitoa hesabu isiyo na kikomo na uandishi pekee ikiwa ingemwacha mshirika wake anayehusiana na Anthropic. Aliiita rushwa. Alisema hapana. OpenAI inasema, kimsingi, mapendekezo yake ya Codex hayangeweza kushawishi mfumo. Hajashawishika. Andreas Thom bado anajiuliza kama mazungumzo ya ChatGPT kuhusu kazi yake mwenyewe yalichangia mfumo ambao baadaye ulijengwa juu yake. Ni kampuni pekee ndiyo ingejua. Anashuku hata hawajui.
Na kisha kikwazo: OpenAI inasema tayari imepiga hatua kubwa katika tatizo lingine la Tuzo ya Milenia. Ambalo halitajwi jina. Clay bado anahitaji dirisha refu la kukubalika kwa jamii hata hivyo. Kwa hivyo hakuna mtu "ameshinda" bado. Tayari wanashindana na lingine. Nzuri.
Maswali Yanayoulizwa Mara kwa Mara
Je, ni mpango gani wa Mkurugenzi Mtendaji wa Anthropic Dario Amodei wa kuharakisha maendeleo ya AI?
Amodei alichapisha insha ndefu akiiomba tasnia hiyo kupunguza mwendo - sio kusimama - kwa sababu uboreshaji wa kujirudia unasonga mbele kwa kasi zaidi kuliko wakaguzi wanavyoweza kuendelea. Hatua ya kwanza ni kuwaalika watathmini waliojumuishwa katika Anthropic wakiwa na beji, dawati, kompyuta mpakato, na haki ya kuchapisha matokeo bila kichujio cha PR. Kisha anataka maabara za kidemokrasia kuratibu viwango vya usalama na, hatimaye, aina fulani ya makubaliano na serikali za kimabavu. Pia anataka msamaha mwembamba wa kutokukiritimba ili mazungumzo ya usalama yasiwe tatizo la kisheria.
Kwa nini Sam Altman alisema OpenAI haitatoa IPO mwaka huu?
Katika mahojiano ya kipekee, Altman alisema IPO hivi sasa itakuwa wakati usiofaa kwa sababu kazi ya usalama, upatanishi, na utayari wa kijamii haujakamilika. Aliposhinikizwa, alithibitisha kuwa haitakuwa mwaka huu ingawa mabenki walikuwa wakizunguka na kuna faili la siri. Alisema muundo wa shirika lisilo la faida/la faida upo ili OpenAI iweze kupiga simu ambazo hazionekani kuwa za maslahi ya wanahisa. Pia alisema kujenga AI zaidi ya udhibiti wa binadamu kunawezekana kabisa na akaapa kwamba angesimamisha mafunzo ikiwa hiyo ndiyo njia.
Je, Altman alidokeza kuhusu mkataba wa usalama na maabara zingine za AI?
Katika mahojiano hayo hayo, Altman alisema anafikiri kukaa chini na wenzake kama vile Amodei, Musk, na Demis Hassabis kutatokea, huku akikataa kutangaza mazungumzo ya faragha kabla. Alisema hatari kubwa ya tarakimu mbili haikubaliki na kwamba mifumo ambayo bado haijatolewa tayari ina uwezo mkubwa kiasi kwamba kusonga mbele bila ufuatiliaji bora kunahisi kama uzembe. Wafanyakazi tayari walikuwa wamesikia toleo la hili ndani, kwa hivyo maoni ya umma yanaweza kuhakiki uratibu badala ya kuthibitisha mkataba uliokamilika.
Je, OpenAI italingana na ahadi ya Anthropic ya mtathmini aliyepachikwa?
Saa chache baada ya insha ya Amodei, Altman alichapisha kwamba OpenAI italingana na ahadi ya mtathmini aliyepachikwa pamoja na ufikiaji kama wa mfanyakazi na maelezo zaidi hivi karibuni. Elon Musk aliandika kwamba Dario yuko sahihi, akiwaweka Wakurugenzi Wakuu watatu wapinzani kwenye kauli mbiu kama hiyo. Kumkumbatia Face aliomba kujiunga na programu ya mtathmini na akazindua Mpango wa Uwiano Huru. Ulaya haiwezi kutoa msamaha uleule wa kupinga ukiritimba wa mtindo wa Marekani ambao Amodei ilitoa, kwa hivyo salamu ya mkono ni ya Marekani kwa sasa.
Kwa nini wataalamu wa hisabati wanakosoa mbio za Navier-Stokes za OpenAI?
Wataalamu wa hisabati wanaelezea wakala wa OpenAI wa takriban elfu kumi, Navier-Stokes wa saa themanini na nane wakikimbia kama msako wa nyara unaoweka kipaumbele kushinda kuliko maarifa. Tristan Buckmaster alisema OpenAI ilitoa hesabu isiyo na kikomo na uandishi pekee ikiwa ingemwacha mshirika anayehusishwa na Anthropic; aliiita rushwa na akakataa. OpenAI inasema mapendekezo yake ya Codex hayangeweza kushawishi mfumo, lakini bado hajashawishika. Andreas Thom bado anasisitiza kama ChatGPT inazungumza kuhusu kazi yake mwenyewe iliyochangia maendeleo ya baadaye ya mfumo.
Je, OpenAI imedai maendeleo katika tatizo lingine la Tuzo ya Milenia?
OpenAI inasema tayari imepiga hatua kubwa katika tatizo lingine la Tuzo ya Milenia, lakini haitataja ni lipi. Taasisi ya Hisabati ya Clay bado inahitaji dirisha refu la kukubalika kwa jamii, kwa hivyo hakuna mtu ambaye ameshinda rasmi bado. Ndani ya uwanja, usiri huo pamoja na mbio za awali za Navier-Stokes zinasomeka huku maabara tayari zikikimbia kombe lijalo. Mahojiano ya Verge yanaweka mvutano huku wataalamu wa hisabati wakitaka maarifa huku OpenAI ikitaka kushinda.