AI Etika i geopolitičko hrvanje oko toga tko će pobijediti u utrci za postizanje prave AI

Svijet je u bjesomučnoj utrci.

Geopolitičke sile tvrde da će pobjednik takoreći odnijeti kući svu slaninu.

Koja se utrka žestoko vodi i naporno juri?

To je AI utrka.

Možda biste ovo mogli prikladnije nazvati utrkom za postizanje istinski Umjetna inteligencija (AI), trenutno se potpunije naziva Opća umjetna inteligencija (AGI). Želimo nekako doći do naizgled najveće AI ili poznate kao AGI koja je usporediva s ljudskom inteligencijom. Još nismo stigli. Dapače, unatoč svakojakim divljim i drsko proklamirajućim naslovima, ne znamo kada ćemo i hoćemo li postići tu visoku ljestvicu. Današnja umjetna inteligencija daleko je manja u sposobnostima od sveobuhvatne ljudske inteligencije, iako sigurno postoji mnogo užih načina na koje je umjetna inteligencija napravila impresivne pohode, poput mogućnosti igranja vrhunskog šaha svjetske klase ili obavljanja drugih relativno ograničenih zadataka.

Zlatni prsten ipak je pojava umjetne inteligencije koja pokazuje ljudsku inteligenciju pobožne prirode i dubinu sličnu ljudskoj. Ovo je sveti gral istraživača i praktičara umjetne inteligencije. S vremena na vrijeme pojavile su se lažne tvrdnje da je već prošao cilj utrke s umjetnom inteligencijom, što sam opovrgao u svojoj kolumni na link ovdje. Oni koji se pokušavaju natjecati oko cilja zbunjuju širu javnost i ponekad to čine gorljivom nevinošću, dok ponekad imaju ozbiljno upitne motive u ruci. Sve u svemu, ovo pokreće vrlo značajna i vitalna etička razmatranja umjetne inteligencije. Za moje kontinuirano i opsežno pokrivanje AI etike i Etičke AI, pogledajte link ovdje i link ovdje, Samo da spomenemo nekoliko.

U svakom slučaju, nema sumnje da je globalna sprinterska utrka umjetne inteligencije žustro u tijeku. Teško biste tvrdili suprotno.

Zamislite to ovako. Da smo već uspjeli postići pravi AI ili AGI, izgledi su da bi AI utrka bila formalno i globalno proglašena uspješno završenom. Uvjeravam vas da bi svjetska pozornost bila prikovana za tako zvučno i potresno otkriće. Ti bi znao za to. Svi bismo. AI madcap dash zapravo više ne bi postojao, iako bi se možda mogla pojaviti sekundarna verzija koja bi uključivala one koji nisu postigli pravi AI koji grozničavo rade da ga sustignu. Tu je i uznemirujuće pitanje kako ćemo na kraju kontrolirati ili upravljati AGI-jem ako ili kada to stignemo.

Niti jedna osoba, entitet ili nacija još uvijek ne može ispravno prisvojiti krunu proizvodnje prave umjetne inteligencije ili AGI-ja.

U međuvremenu se odvija ogromna i neumoljiva količina sukoba oko toga koja je nacija (ili nacije) na čelu čopora, a tko zaostaje dalje. Pretpostavka je da ćete, ako niste prvi, ostati u blatu. Jest ćete ostatke AI pobjednika. Potencijalno ćete zauvijek biti podređeni naciji ili nacijama koje naprave najavljeni skok u pravi AI ili AGI.

Nakratko, kako bih olakšao tekst ove rasprave, ubuduće ću koristiti "AGI" kad god želim prizvati auru prave umjetne inteligencije. Korištenje nešto novijeg izraza "AGI" ponekad je uznemirujuće za one koji nisu navikli na njegovu upotrebu. Svima nam je poznat izraz "AI" i moglo bi vas uznemiriti što se umjesto njega koristi kratica "AGI". Dopustite mi da objasnim zašto se ovo postupno pojavljuje kao trend glagoljanja.

Dio razloga zašto se AGI uzdigao u areni AI vernakulara je to što je samo navođenje "AI" sada postalo nažalost razvodnjena fraza. Nitko ne zna je li umjetna inteligencija koju spominjete varijanta jedva AI ili neka kvazi-bolja infuzija umjetne inteligencije koja napreduje, ili možda aludira na futurističku umjetnu inteligenciju koja će jednoga dana biti u potpunosti izjednačena s ljudima. Kako bismo se nosili s preopterećenošću "AI" kao krilaticom, nadimak AGI dobiva prednost od strane onih insajdera unutar polja umjetne inteligencije koji žele posebno i posebno aludirati na pravu umjetnu inteligenciju.

Dakle, ukratko, smatrajte da je moje spominjanje AGI-a isto što i da kažem "pravi AI" robusnog kalibra sličnog ljudskoj inteligenciji, hvala.

Razborito duboko udahnimo i svjesno ispitajmo neke aspekte utrke za postizanje AGI-ja. Postoji čak i meta-aspekt koji treba najprije navesti. Imajte na umu da je upotreba alegorije navodne pješačke utrke ili neke druge vrste trkaće aktivnosti kao metafore za AGI utrku pomalo neugodna. Zašto? Nakratko ću vam objasniti komplikacije i složenost zašto je (neki kažu) utrka stopala ili njen ekvivalent potpuno obmanjujuće i podmuklo jednostavno gledište.

Evo ključnih točaka koje ću proći s vama u ovom diskursu:

• Ako je ovo utrka, AGI ciljna linija se čini prilično loše definirana
• AGI utrka može pripasti osobi, entitetu ili naciji
• Mjerni podaci i kako se nacije uspoređuju u AGI utrci
• Geopolitičko manevriranje i usklađivanje za AGI utrku
• Međunarodni AI zakoni i AI Etika kao suci u AGI utrci

Možda ćete htjeti vezati pojas dok ispitujem hitnu AGI trku (da, usuđujem se nazvati je trkom) u kojoj se gotovo svi kreću vrtoglavom brzinom i naizgled strmoglavo napreduju u ovoj gorućoj potrazi. Neki bi mogli reći da je ovo utrka za poboljšanje čovječanstva, dok drugi upozoravaju da bi utrka mogla značiti potpunu propast za sve nas.

Vrijeme će pokazati.

Ako je ovo utrka, AGI ciljna crta izgleda prilično loše definirana

Ciljna linija je obično prilično konačna demarkacija. Ili ste došli do cilja ili niste. Čini se da vam to što vam nedostaje neće pomoći. Zamislite olimpijsku utrku na 400 metara i hoćete li posebno pamtiti ili biste nabacivali pohvale trkačima koji uopće nisu završili utrku (nikada nisu prošli kroz cilj). Malo vjerojatno.

Hoćemo li znati kada smo dosegli AGI tako da se razumno svi slažu da je cilj postignut?

Postoje žestoka neslaganja oko razgraničenja AGI.

Na primjer, pretpostavimo da osmislimo umjetnu inteligenciju za koju se čini da je u potpunosti sposobna pokazati ljudsku inteligenciju, ali u njoj nema ni privida osjećaja per se (pogledajte moje izvješće o argumentima oko osjećaja umjetne inteligencije na link ovdje). AI je računalno sposoban oponašati ili na neki drugi način raditi kao ljudska inteligencija. Ipak, ne postoji iskra živosti ili osjećaja koju povezujemo s ljudima i drugim živim bićima. Računa li se ovaj AGI kao postizanje cilja za koji smo mislili da ga imamo?

Neki bi proturječili da ne bi bilo važno da je osjećaj sam po sebi umotan u ovaj AGI. Sve dok može pokazivati ​​ljudsku inteligenciju, uključivanje osjećaja nešto je drugačije vrste što bismo mogli ili ne bismo htjeli vidjeti da se pojavi. Osjećaj u tom smislu stvari je dodatak.

Drugi žestoko tvrde da će jedini način postizanja ljudske inteligencije u AGI biti cjelovito utjelovljenje osjećaja. AGI i osjećaj se ili smatraju istima, ili su mješavina nesvodivog neodvojivog dvostrukog utjelovljenja. Da biste dobili AGI, morate imati osjećaj, tvrdili bi oni.

Ostavljajući po strani taj kut rasprave, druga perspektiva je da bismo mogli koristiti poznati Turingov test za procjenu je li AGI postignut. Detaljno sam obradio Turingov test na link ovdje. Ukratko, pojam se sastoji od toga da čovjek postavlja pitanja AGI-ju i ako čovjek ne može razlikovati odgovore koje je generirao AGI od odgovora čovječanstva, tada bismo AGI proglasili sposobnim pokazati ljudsku inteligenciju.

Postoji mnogo problema ili nedostataka koji su često povezani s Turingovim testom.

Pretpostavimo da čovjek koji se raspituje radi loš posao i ne postavlja probna pitanja. Jedna od zabrinutosti je da mnogi od današnjih naizgled moćnih velikih jezičnih modela (LLM) mogu papagajski reproducirati čovjeku sadržaj na kojem je LLM obučavan (tj. tekst i digitalni mediji koji se često dobivaju putem velikog skeniranja Interneta). Kao takav, LLM potencijalno može lako "odgovoriti" na posebno odabranog čovjeka koji postavlja pitanja obične vrste na koja je već odgovoreno i koja postoje na mreži, ali to vjerojatno nije zbog utjelovljenja ljudske inteligencije AGI kalibra.

Pojavljuju se mnoge druge nedoumice. Pretpostavimo da čovjek nije u stanju shvatiti odgovore. Ili pretpostavimo da se ljudi zavaravaju vjerujući da su svi odgovori dokaz ljudske inteligencije. Čak sam pokrio otrcanu ideju nekih da sve što trebamo učiniti je pitati AI je li AGI ili je osjećajan, što jasno dajem do znanja da nije baš uvjerljiv oblik AGI dokaza, vidi link ovdje.

Konačno, kao jedna dodatna misao, trebamo li u potpunosti doći do cilja da bismo smatrali da je AGI dosegnut?

Ranije sam spomenuo da obično zaboravimo na one koji ne stignu do cilja. Ovo možda nije razumno analogno AGI utrci. Vjerujem da se može iznijeti uvjerljiv slučaj da ćemo se, ako smo u stanju postići značajan put prema AGI-u, već naći u stanju čuđenja i velike koristi ili velike nevolje. Vidite, mnogi važni i vrlo korisni ishodi mogu proizaći iz AGI-ja koji je gotovo tu. Zaostajanje neće biti toliko problematično kao ne završiti utrku na 400 metara, pogotovo jer bi to mogao biti vitalni temelj za naš put do potpunije verzije AGI-ja (možda je to maraton u usporedbi).

Metafora da je AGI postignuće vrsta utrke ili njezin ekvivalent ponekad je nezadovoljavajuća i neadekvatna.

AGI utrka može pripasti osobi, entitetu ili naciji

Neki gaje sanjivu predodžbu da će AGI postići neki petljač koji radi u garaži u pidžamama i da će to biti ishodište ludo inventivnih kompjuterskih eksperimenata na kojima su se mučili godinama. To je klasični high-tech trop vuka samotnjaka.

Žao nam je što vas obavještavam da je ovo vrlo nizak izgledi.

Veći bi izgledi bili da će subjekt kao što je tvrtka ili neki istraživački tim biti AGI glavni akter. Čvrsto i prevladavajuće uvjerenje je da će biti potrebno selo da bi se stiglo na AGI. Vuk samotnjak neće sam imati resurse niti uvide da dosegne AGI. Oni bi mogli pridonijeti potrazi. Oni mogu dati potrebne dijelove slagalice. Neće biti u stanju skupiti cijeli pribor i caboodle.

Govoreći o selima, još jedno snažno stajalište je da će nacije moći postići samo AGI. Preko kombinacije ljudi, poduzeća, akademika i svih drugih oblika entiteta unutar nacionalne države, AGI će doći kao rezultat kombiniranog rada nacionalne ukupnosti. Jedinična razina pozornosti za pobjednika u ovoj utrci je na nacionalnoj osnovi, a ne na nečem više raštrkanom, slobodnom obliku ili individualističkom.

Ukratko, ako je potrebno selo, selo će biti nacionalnog razmjera, stoga će nacionalna država biti određeni trkač koji prijeđe ciljnu crtu u AGI utrci.

Mjerni podaci i kako se nacije uspoređuju u AGI utrci

Uzmite kao datost da će se AGI postignuće temeljiti na razini nacionalne države.

Da ponovimo, to ne znamo sa sigurnošću, ali čini se opravdanom pretpostavkom.

Razmotrite grananje osnove nacionalne države. Pretpostavimo da vuk samotnjak prvi uspije doći do AGI-a i vjeruje da njihov posao nadilazi posao nacionalne države čiji je član. Ova osoba izjavljuje da ne pripada nikakvoj nacionalnoj državi u smislu izrađenog AGI-ja. Bismo li i dalje davali priznanje toj nacionalnoj državi i bi li AGI bio pod kontrolom i djelokrugom te nacije?

Zamislite drugu alternativu da veliki multinacionalni konglomerat prvi stigne u AGI. Koja nacija može reći da je AGI njihova "stvar" koju treba koristiti i implementirati (hoće li se to tumačiti kao vlasništvo ili umjesto toga biti varijanta pravne osobe)? Možda će sve nacije unutar kojih tvrtka postoji dobiti jednake zasluge. Ili možda samo gdje god je geografski smješteno službeno sjedište. To bi moglo biti složeno dijeljenje pravog lonca zlata.

U svakom slučaju, opće je popularno mišljenje da će nacionalna država biti ključni faktor za postizanje AGI-a. Nacija koja potiče istraživanje i razvoj umjetne inteligencije unutar svojih nacionalnih napora vjerojatno će prije doći do AGI-ja nego druge nacije koje to ne čine.

Prevladava mišljenje da je AI rasa nacionalna.

Pitanje koje razbija glavu je kako ćemo utvrditi je li jedna nacija ispred ili iza druge nacije u AGI utrci.

U konvencionalnoj pješačkoj utrci lako bismo mogli identificirati metriku koja se može koristiti za određivanje koji trkači rade dobro, a koji ne. Brzina trkača može se lako izračunati. To ne jamči da će završiti prvi, ali barem obećava. Fizička udaljenost između trkača i udaljenost do cilja očito su vitalni kriteriji koje lako možemo izmjeriti.

AGI utrka nema te vrste sigurnih oblika metrike ili mjerenja.

Koristimo sve moguće zamjenske mjere budući da ne postoji definitivan način da izračunamo gdje je krajnja linija i koliko smo daleko od nje.

Pogledajmo vrste metrika koje se uobičajeno razmatraju. Osobito praktičan izvor globalnih mjerenja povezanih s umjetnom inteligencijom svake godine prikuplja i objavljuje Stanford Institute for Human-Centered AI (HAI) na Sveučilištu Stanford. Izvješće je besplatno dostupno na internetu, a najnovije izdanje ima naslov Godišnje izvješće AI Indexa za 2022 (na temelju podataka prikupljenih za 2020.-2021.). Za koji trenutak ću s vama podijeliti neke naglaske nacionalnih usporedbi spomenutih u njihovoj posljednjoj kompilaciji.

Mjerni podaci koji se koriste za mjerenje nacionalnog i međunarodnog napretka u AI obično uključuju pomalo od svega, ponekad graničeći s uključivanjem pravog kuhinjskog sudopera.

Vrste mjera koje se obično ispituju uključuju:

• Broj članaka o istraživanju umjetne inteligencije koji se pripisuju određenoj naciji
• Broj citiranih referenci na članke AI određene nacije
• Broj časopisa o umjetnoj inteligenciji unutar određene zemlje
• Broj AI konferencija koje se održavaju unutar određene nacije
• Broj AI konferencija koje sponzorira određena nacija
• Broj patenata povezanih s umjetnom inteligencijom odobrenih unutar određene nacije
• Broj novoosnovanih tvrtki AI unutar određene nacije
• Broj AI poslova unutar određene nacije
• Broj novih AI poslova ili zapošljavanja u određenoj zemlji
• Broj zakona o umjetnoj inteligenciji ili zakonskih prijedloga uvedenih u određenoj zemlji
• Broj zakona o umjetnoj inteligenciji donesenih ili donesenih u određenoj zemlji
• drugo

Razmotrite ove suvremene pokazatelje iz HAI AI indeksa 2022.:

• Citati publikacije AI: “Što se tiče citiranosti publikacija repozitorija umjetne inteligencije, Sjedinjene Države su na vrhu popisa s 38.6% ukupnih citata u 2021., uspostavljajući dominantno vodstvo nad Europskom unijom plus Ujedinjenim Kraljevstvom (20.1%) i Kinom (16.4%)."
• AI časopisi/konferencije: „U 2021. Kina je nastavila biti vodeća u svijetu po broju publikacija u časopisima, konferencijama i repozitoriju o umjetnoj inteligenciji — 63.2% više od Sjedinjenih Država sa sve tri vrste publikacija zajedno. U međuvremenu su Sjedinjene Države držale dominantno vodstvo među velikim AI silama u broju citata konferencija i repozitorija.”
• AI patenti: “Kina sada prijavljuje više od polovice svjetskih patenata za AI i dobiva oko 6%, otprilike isto kao i Europska unija plus Ujedinjeno Kraljevstvo. Sjedinjene Države, koje podnose gotovo sve patente u Sjevernoj Americi, čine to jednom trećinom brže od Kine. U usporedbi sa sve većim brojem prijavljenih i odobrenih patenata AI, Kina ima daleko veći broj prijava patenata (87,343 2021 u 1,407.) od onih odobrenih (2021 XNUMX u XNUMX.)."
• Novofinancirane AI tvrtke: “Podaci o ulaganjima prema broju novofinanciranih AI tvrtki u svakoj regiji. Za 2021. Sjedinjene Države predvodile su s 299 kompanija, a slijede ih Kina sa 119, Ujedinjeno Kraljevstvo s 49 i Izrael s 28. Razlike između njih su značajne.”
• Tempo zapošljavanja AI: "Novi Zeland, Hong Kong, Irska, Luksemburg i Švedska su zemlje ili regije s najvećim rastom zapošljavanja AI-a od 2016. do 2021..”
• Oglasi za posao AI: “U 2021. godini Kalifornija, Teksas, New York i Virginia bile su države s najvećim brojem oglasa za posao u vezi s umjetnom inteligencijom u Sjedinjenim Državama, pri čemu je Kalifornija imala više od 2.35 puta više oglasa od Teksasa, drugog najvećeg broja. Washington, DC, imao je najveću stopu oglasa za posao AI u usporedbi s ukupnim brojem oglasa za posao
• AI zakonodavna radnja: „Analiza AI indeksa zakonodavnih zapisa o umjetnoj inteligenciji u 25 zemalja pokazuje da je broj prijedloga zakona koji sadrže 'umjetnu inteligenciju' koji su usvojeni kao zakon porastao sa samo 1 u 2016. na 18 u 2021. Španjolska, Ujedinjeno Kraljevstvo i Sjedinjene Države donio najveći broj zakona povezanih s umjetnom inteligencijom u 2021., a svaki je usvojio tri.”

Možemo se diviti i cijeniti naporan rad koji je uložen u prikupljanje te statistike trkača iz nacionalne države za AGI utrku.

Skeptici se poprilično prepiru oko korištenja bilo koje vrste metrike u angažmanu AGI utrke.

Teško je pitanje možete li povući bilo kakvu ravnu crtu od broja članaka o umjetnoj inteligenciji ili konferencija o umjetnoj inteligenciji unutar određene nacije do konačnog postignuća AGI-ja. Isto vrijedi i za broj poslova s ​​umjetnom inteligencijom, broj tvrtki s umjetnom inteligencijom i niz drugih metrika. Moguće je da ti brojevi nemaju mnogo veze s postizanjem AGI-ja. Argument ide da su te mjere više toplina nego svjetlost.

Protuargument je da moramo pokušati mjeriti gdje smo i kamo idemo. Stavljanje glave u pijesak ne čini se baš kao održiv način za procjenu idemo li prema AGI-ju ili možda dalje od AGI-ja. Nadamo se i općenito se pretpostavlja da što više energije i pažnje bude usmjereno na napredak u umjetnoj inteligenciji, to ćemo se više približavati AGI-ju. Ove metrike su najbolje što možemo učiniti kako bismo saznali koliko se energije i pažnje izdvaja i troši u AGI utrci.

Ukrug i to ide.

Svaka metrika može se sama po sebi također lupati o glavu.

Na primjer, razmotrite broj zakonodavnih zakona ili prijedloga zakona o umjetnoj inteligenciji.

Možete tvrditi da ako se zakonodavci usredotočuju na zakone vezane uz umjetnu inteligenciju, to je dobar znak da nacija prilično trezveno shvaća važnost umjetne inteligencije i društvene posljedice toga kamo se umjetna inteligencija kreće. Može se reći da ovo pokazuje da se u toj određenoj naciji ulaže mnogo napora u unaprjeđenju umjetne inteligencije. Zašto biste se mučili da donesete zakone o umjetnoj inteligenciji osim ako umjetna inteligencija ne raste i buja kao pokazni element vaše nacije?

Na taj se način te nacije koje donose nove zakone o umjetnoj inteligenciji tumače kao izdajnički znak ili signaliziranje da je AGI napredak uvelike u tijeku u toj zemlji.

Neki kritičari tvrde da će predloženi novi zakoni o AI-ju ugušiti napore AI-a unutar svake takve pojedine nacije. Zastupnici i politički čelnici sami će sebi pucati u noge. Zakoni će prerano baciti mračnu sjenu na nastojanja AI-a koja su u tijeku u toj specifičnoj naciji. Slavina za napredak AI-ja će se začepiti pravnim začepljenjem, a tempo napretka AGI-ja usporit će se u toj naciji koja proglašava zakon o AI-ju. U međuvremenu, druge nacije koje ne donose takve zakone o umjetnoj inteligenciji nastavit će nesmetano. To je kao da ste odlučili staviti olovne utege na trkača koji je već na stazi od 400 metara. Ako ste im htjeli pomoći i ubrzati ih, učinili ste upravo suprotno.

Opa, odgovor ide, donošenje zakona o umjetnoj inteligenciji više je poput osiguravanja da nema nepotrebnih prepreka ispred trkača. Zakoni daju smjernice u istom smislu da su linije na trkaćoj stazi tu kako bi trkača držale u pravom smjeru. Bez tih nacrtanih linija, trkači bi mogli poludjeti. Novi zakoni o umjetnoj inteligenciji držat će ih da složno koračaju prema željenom ishodu. Zemlje koje ne učine isto u smislu novih zakona o umjetnoj inteligenciji otkrit će da njihovi trkači idu u svim smjerovima, uključujući moguće potpuno trčanje izvan staze i ozljeđivanje onih koji su nevini izvan same AGI utrke.

Postoje i "skriveni" zakoni povezani s umjetnom inteligencijom koje neki računaju, a neki drugi ne računaju kao dio ovih metrika (što stvara zbrku pri pokušaju usporedbe brojanja).

Na primjer, ako država donese zakon koji se odnosi na autonomna vozila kao što su samovozeći automobili, smatrate li to zakonom o umjetnoj inteligenciji? Da pojasnimo, autonomno vozilo, kao što je potpuno autonomni samovozeći automobil, imat će AI sustav vožnje koji je ključan za mogućnosti bez vozača (pogledajte moje izvješće na link ovdje). Zbog uključenosti umjetne inteligencije, svi zakoni o autonomnim vozilima mogli bi se razumno smatrati u biti zakonima umjetne inteligencije. S druge strane, mogli biste uvjerljivo tvrditi da se zakon odnosi na autonomno vozilo, a ne per se na umjetnu inteligenciju, stoga se to ne računa u zakone specifične za umjetnu inteligenciju.

Neuredno je.

Sve ovo zaprepaštenje oko metrike moglo bi vas natjerati da slegnete ramenima usred potpuno suprotnih pogleda na ova važna razmatranja. Kao što je vidljivo, metrika je gotovo uvijek podložna različitim tumačenjima o tome što znače i kako se status nacije u pogledu AGI-a na odgovarajući način analizira.

Geopolitičko manevriranje i usklađivanje za AGI utrku

Koje nacije vode u AGI utrci?

Koje nacije zaostaju?

Prethodno spomenuta metrika pokušava pokazati gdje se svaki od trkača trenutno nalazi. Osnovna pretpostavka je da ako metrika doista prikazuje prikladan pokazatelj AGI-a koji traži pozicioniranje, ove različite glavne pozicije mogu ostati iste tijekom vremena. Naravno, stvarnost je da nacionalni interes i pozornost mogu porasti ili oslabiti tijekom neravnog puta prema AGI-u. Možda bi bilo najpametnije očekivati ​​promjene u pozicioniranju.

Jedno važno razmatranje je da nacije zapravo nisu same u ovoj utrci.

Nacije će vjerojatno predavati štafetu jedna drugoj. AGI utrka ponekad ima jednu ili više nacija koje rado rade ruku pod ruku. Ponekad se to čini oprezno, a ne s prijateljskim veseljem. U drugim slučajevima, nacije bi se mogle uzdržavati jedna od druge. U bilo kojem trenutku u vremenu, položaj utrke može biti sasvim drugačiji nego što je bio nekoliko koraka unatrag, plus može biti sasvim drugačiji nekoliko koraka u budućnost.

Razmotrite ovo izvješće HAI AI Index 2022 o suradnji između zemalja: „Unatoč rastućim geopolitičkim napetostima, Sjedinjene Države i Kina imale su najveći broj suradnji između zemalja u publikacijama AI od 2010. do 2021., što se povećalo pet puta od 2010. . Suradnja između dviju zemalja proizvela je 2.7 puta više publikacija nego između Ujedinjenog Kraljevstva i Kine — što je drugo mjesto na popisu.”

Cinici bi rekli da se možda korištenje unakrsne suradnje povremeno izvodi kao prijevara. Nacija bi mogla otvoreno tvrditi da međusobno surađuju, izgledajući površinski da to čine, dok duboko u sebi svoj najbolji AGI napredak drže skrivenom nacionalnom tajnom. Možda je ovo učinjeno kako bi se prigušio napredak nacije unakrsne suradnje. Možda se to radi kako bi se osiguralo da se tajni umak nehotice ne podijeli. Mogući su svakakvi razlozi.

U današnjem modernom digitalnom internetskom online svijetu, pokušaj čuvanja AGI uvida u tajnosti može biti težak zadatak. Intenzivna želja za otkrivanjem ili izmišljanjem AGI-ja uvjerljiva je privlačnost koja može potaknuti pojedinačne AGI programere i istraživače da otvoreno podijele svoje najnovije radove. Države mogu otkriti da je pokušati ograničiti takvo dijeljenje puno teže nego što se možda čini, a vjerojatno i puno teže nego u danima kada je sve bilo papirnato i zahtijevalo fizičko premještanje dokumenata diljem svijeta.

Kretanje prema otvorenom kodu svakako je bio suvremeni naglasak za većinu najnovijih AI i AGI istraživanja, kao što je spomenuto u izvješću HAI AI Index 2022.: “Svake godine tisuće i tisuće publikacija AI objavljuju se u otvorenom kodu, bilo na konferencijama ili na web stranicama za dijeljenje datoteka. Istraživači će otvoreno dijeliti svoja otkrića na konferencijama; vladine agencije financirat će istraživanje umjetne inteligencije koje završi u otvorenom kodu; a programeri koriste otvorene softverske biblioteke, besplatno dostupne javnosti, za izradu najsuvremenijih AI aplikacija. Ova otvorenost također doprinosi globalno međuovisnoj i međusobno povezanoj prirodi modernog istraživanja i razvoja umjetne inteligencije.”

Sve u svemu, nacije općenito dijele, a ipak možda pokazuju samo dio svoje ruke. Druge nacije možda ne dijele ili se samo pretvaraju da to čine. Neke se nacije teško bore pokušavajući izmjeriti što oni unutar njihove nacije daju, a ne zadržavaju. I tako dalje.

Okarakterizirao sam prirodu ovih nacionalnih poteza na ove načine:

• AI Samostalna nacija (pokušava sama nastaviti)
• AI Jednosmjerna nacija (prima, ne izdaje)
• AI Ostatak nacije (dobija ono što može od drugih)
• Nacija otvorenog dijeljenja umjetne inteligencije (ponosi se dijeljenjem)
• AI Hollow-sharing Nation (neistina u dijeljenju)
• AI Savezi Nacija (pokušava sklopiti što više saveza)
• AI Nacija koja nije u igri (traženje AGI nije nacionalni prioritet)
• AI varajuća nacija (obrnuti inženjering ili podmukla krađa od drugih nacija)
• drugo

Nacija može biti u više od jedne od tih kanti odjednom.

Nacija može neko vrijeme biti u jednoj od tih kanti, izaći iz kante i možda se kasnije vratiti u nju.

Želje nacionalne države i pažnja koja se odnosi na traženje AGI-a dinamična su oseka i oseka koja će se sigurno nastaviti odvijati i biti pokretna meta gdje se nacija nalazi u utrci, a bit će potrebno stalno promatranje da se shvati gdje su svi igrači pozicionirani u određenom trenutku vremena.

Međunarodni zakoni o umjetnoj inteligenciji i etika umjetne inteligencije kao suci u AGI utrci

U prijašnjim sam kolumnama pokrio različite nacionalne i međunarodne napore u izradi i donošenju zakona koji reguliraju AI, vidi link ovdje i link ovdje, na primjer. Također sam pokrio različita načela i smjernice etike umjetne inteligencije koje su različite nacije identificirale i usvojile, uključujući na primjer napore Ujedinjenih naroda kao što je UNESCO-ov set etike AI koji je usvojilo gotovo 200 zemalja, vidi link ovdje.

Evo korisnog temeljnog popisa etičkih AI kriterija ili karakteristika u vezi sa AI sustavima koje sam prethodno pomno istražio:

• Prozirnost
• Pravda i pravednost
• Ne-zlonamjernost
• Odgovornost
• Privatnost
• Dobročinstvo
• Sloboda i autonomija
• Vjeruj
• Održivost
• Dostojanstvo
• Solidarnost

Te principe etike umjetne inteligencije ozbiljno bi trebali koristiti programeri umjetne inteligencije, zajedno s onima koji upravljaju razvojnim naporima umjetne inteligencije, pa čak i onima koji u konačnici postavljaju i održavaju sustave umjetne inteligencije.

Svi dionici tijekom cijelog životnog ciklusa AI-a razvoja i korištenja smatraju se unutar opsega poštivanja uspostavljenih normi Etičke AI-a. Ovo je važan naglasak budući da je uobičajena pretpostavka da "samo koderi" ili oni koji programiraju umjetnu inteligenciju podliježu pridržavanju etičkih pojmova umjetne inteligencije. Kao što je prethodno naglašeno, potrebno je selo da osmisli i postavi umjetnu inteligenciju, a za to cijelo selo mora biti upućeno i pridržavati se pravila etičke inteligencije.

Razmotrimo utjecaj i vitalnu prirodu međunarodnih zakona o umjetnoj inteligenciji i međunarodnih proglasa etičkih pravila umjetne inteligencije na AGI utrku.

Nacije koje teže AGI-u mogle bi to učiniti s odustajanjem i naći se da će skrenuti prema nekim od često populariziranih egzistencijalnih rizika AGI-a. Nadamo se da će donošenjem međunarodnih zakona o umjetnoj inteligenciji i međunarodnih pravila etike umjetne inteligencije, nacije biti vođene prema AI za dobro i kloniti se AI za loše.

Prema našoj analogiji s trkaćom stazom, ti zakoni o umjetnoj inteligenciji i etička razmatranja umjetne inteligencije su poput pokušaja sprječavanja trkača da izađu izvan staze. Postoje ogromna iskušenja ići prečacima u AGI utrci. Ti prečaci mogli bi naciju odvesti naizgled prije do cilja, iako su istovremeno izložili tu naciju i druge nacije nepotrebnom riziku. Suptilan, ali znakovit primjer sastoji se od umjetne inteligencije dvostruke namjene, koju sam ispitao link ovdje, pri čemu se napredak umjetne inteligencije lako prebacuje uz vrlo mnogo truda s usmjerenosti na dobrotu na stvaranje kataklizmičke zloće.

Mogli biste ustvrditi da su međunarodni zakoni o umjetnoj inteligenciji i međunarodna etika umjetne inteligencije poput sudaca ili sudaca.

Pretpostavka je da će ovi međunarodno osmišljeni pravni i etički mehanizmi održati AGI utrku na ravnomjernijoj kobilici. Stvar je u tome da hoće li određene nacije poslušati suce ili arbitre druga je stvar. Slično tome, postavlja se mučno pitanje kako te vlasti mogu osigurati kazne ili poticaje da zadrže trkače na pravom putu. Izgledi su da će nacije učiniti ono što žele, za što će druge nacije možda trebati promijeniti svoju težinu kako bi ojačale potporu za neuobičajeno kršenje pravila koje su neke nacije prisiljene poduzeti.

Zaključak

Louis Pasteur, legendarni kemičar i mikrobiolog, slavno je rekao ovo: “Znanost ne poznaje zemlju, jer znanje pripada čovječanstvu i ono je baklja koja osvjetljava svijet. Znanost je najviša personifikacija nacije jer će ta nacija ostati prva koja najdalje nosi djela misli i inteligencije.”

Možemo li reći da postizanje AGI ne poznaje državu i da će AGI pripadati cijelom čovječanstvu?

Ili će nacija koja prva stigne na AGI biti posesivna prema tome, postati pijana od apatične moći i poludjeti od moći?

Za one od vas koji vole malo zaokret u ovoj određenoj zagonetki, uzmite u obzir da bi AGI sam po sebi mogao biti vrsta postignuća koja je poslovična zmija u travi. Otkrivač zmije mogao bi biti prvi koji će dobiti zmijski ugriz. Biti prvi nosi svoje rizike.

Prelazak ciljne crte na AGI neće nužno biti tako slavljenički i bezbrižan kao što neki misle. Ni korištenje AGI-ja neće nužno biti jednostavno. Neki bi mogli tvrditi da bi suočavanje s AGI-jem moglo biti gotovo nemoguće budući da će AGI naizgled imati podmuklost i domišljatost usporedivu s čovječanstvom. Narodi bi trebali voditi računa o tome što pokušavaju postići i kakav će biti rezultat, čineći to unaprijed i ne ostajući iznenađeni. Možda imaju gnijezdo stršljenova u svojoj škrinji s nacionalnim blagom.

Kao što je Pasteur rekao: "Sreća je naklonjena pripremljenom umu."