Etika umjetne inteligencije oprezna zbog pogoršanja asimetrije umjetne inteligencije usred ljudi koji dobivaju kraći kraj štapa

Ponekad ste na krivom kraju štapa.

Taj se kolokvijalizam može primijeniti na pojam asimetrije.

Da, govorit ću o asimetriji. Kao što ste se vjerojatno već susreli u ovom naopako okrenutom svijetu u kojem živimo, postoje prilike kada se možete naći u situaciji da imate manje znanja o stvari koja vam je relativno važna. To se formalno naziva Informacijska asimetrija.

Ključ je u tome da imate manje znanja ili informacija nego što biste možda željeli da imate, plus definitivno imate manje od druge strane uključene u stvar. Vi ste u izrazito nepovoljnijem položaju u odnosu na drugu stranu. Oni znaju nešto što ti ne znaš. Oni mogu iskoristiti ono što znaju, posebno u smislu onoga što vi ne znate, i dobiti prednost u svim grubim raspravama ili pregovorima s vama.

Pa, u gradu je novi klinac, poznat kao AI asimetrija.

Ova najnovija krilatica odnosi se na mogućnost da idete protiv nekoga tko je naoružan umjetnom inteligencijom, dok vi niste toliko naoružani.

Oni imaju AI na svojoj strani, dok vi imate, pa, samo vas. Stvari su jednostrane. Vi ste u pretpostavljeno nepovoljnom položaju. Druga strana će moći trčati krugove oko vas jer je pojačana umjetnom inteligencijom. To bi moglo biti unutar poznate izreke da je u ljubavi i ratu sve pošteno (dugogodišnja poslovica skovana u Euphues John Lyly, 1578.), iako dinamika i opasnosti AI asimetrije pokreću izazovna pitanja etičke AI. Za moje kontinuirano i opsežno pokrivanje AI etike i Etičke AI, pogledajte link ovdje i link ovdje, Samo da spomenemo nekoliko.

Prije nego što uskočimo u područje umjetne inteligencije i njegove obilne složenosti u vezi s asimetrijom umjetne inteligencije, prvo istražimo svakodnevnu redovitu verziju obične stare informacijske asimetrije. Ovo će postaviti pozornicu za ulazak u poslovičnog AI novog klinca u bloku.

Kratka i namjerno poučna priča mogla bi vam probuditi apetit.

Neki dan mi je pukla guma dok sam bio na cesti i brzo sam tražio odgovarajuću zamjenu koja bi se mogla odmah ugraditi. Pomoću svog pametnog telefona pogledao sam na mreži obližnje prodavaonice guma kako bih saznao udaljenost koju moram prijeći na svojoj run-flat gumi i jesu li neke trgovine otvorene. Osim toga, napravio sam brzu procjenu njihovih mrežnih recenzija kupaca i pokušao prikupiti bilo što korisno o tome koliko dugo su u poslu i drugim čimbenicima koji bi mogli prikazati njihovu vrijednost.

Nakon što sam nazvao jednu od prodavaonica guma, službenik mi je dao jednostavnu ponudu za cijenu gume i njezine montaže. Guma nije bila baš ono što sam imao na umu, ali prodavač me uvjerio da će oni biti jedina trgovina u okolici koja može odmah obaviti posao. Prema riječima prodavača, bilo koja druga obližnja gumarija ne bi imala takve gume na zalihama i tim bi konkurentima trebao barem jedan dan da nabave odgovarajuću gumu iz nekog poluudaljenog skladišta.

Bio sam usred informacijske asimetrije.

Službenik je tvrdio da zna više o lokalnom statusu prodavaonica guma, a posebno o vrsti gume koja mi je potrebna. Bio sam u području kroz koje sam samo prolazio i nisam imao nikakva saznanja iz prve ruke o trgovinama gumama u tom određenom geografskom području. Koliko sam znao, službenik je bio na mjestu i govorio mi je neuljepšanu istinu.

Ali je li službenik tako radio?

Možda da, možda ne.

Može biti da je službenica iskreno vjerovala u sve što mi se prenosilo. Službeniku je to bila istina. Ili je službenik možda malo natezao istinu. Bilo je moguće da ono što je rečeno može biti istina, iako je način na koji je prikazano implicirao da je to potpuna i nepobitna istina. Naravno, to je također mogla biti potpuna glupost i prodavač je samo davao šilar za trgovinu gumama kako bi dobio moj posao. Je li sočna provizija mogla biti na redu?

Usuđujem se reći da nitko ne voli biti u takvoj poziciji autsajdera.

Ulozi situacije vitalni su čimbenik u tome koliko je informacijska asimetrija važna. Ako se radi o pitanju na život ili smrt, biti u kućici za pse i oslanjati se na drugu stranu za ono što zna ili tvrdi da zna je nejasno i krajnje nepoželjno držanje. Kad su ulozi niski , kao što je naručivanje večere u restoranu i poslužitelj vam kaže da je riblje jelo božanstveno, ali nikad prije niste jeli tamo i nedovoljno ste informirani, možete se složiti s ovom malom informacijskom asimetrijom bez puno tjeskobe (ja pretpostavimo također da se kladite da poslužitelj ne bi riskirao davanjem loših savjeta i propuštanjem dobivanja pristojne napojnice).

Vraćajući se na priču o istrošenim gumama (igra riječi!), ne bih imao trenutačni način da shvatim je li mi službenik davao pouzdane i informativne uvide. Možda se pitate što se dogodilo. Odlučio sam nazvati nekoliko drugih obližnjih trgovina gumama.

Jeste li spremni za ono što sam otkrio?

Sve druge trgovine gumama imale su moju željenu gumu na zalihama i nisu me htjeli nagovoriti da uzmem drugu gumu (kao što je pokušao prvi prodavač). Također su mogli obaviti posao u istom roku kao i prva trgovina gumama koju sam slučajno nazvao. Otprilike po istoj cijeni.

Uvjeravam vas, osjetio sam dobrodošao uzdah olakšanja.

Ironično, prema Murphyjevom zakonu loše sreće, prvo mjesto koje sam kontaktirao bilo je jedino koje je izgleda bilo vani na ručku, takoreći. Drago mi je da sam tražio više informacija. Time se smanjio jaz u informacijskoj asimetriji. Pljeskao sam sebi što sam ostao pri svome i nisam prišao prvom mjestu koje sam nazvao.

Uz to, postojao je određeni trošak uključen u moje dobivanje dodatnih informacija. Obavio sam otprilike četiri poziva za koje je svaki trebao oko petnaest do dvadeset minuta da ih u potpunosti obavim. U tom smislu potrošio sam oko sat i pol dok sam samo smišljao kamo ću s autom. Da sam odmah odvezao svoj auto do tog prvog mjesta, nova guma bi već bila gotovo na mom autu. S druge strane, kasnije bih gotovo sigurno požalio zbog brze odluke koju sam donio dok sam bio u podloj vezi Asimetrije informacija.

Ponekad morate stisnuti zube i prihvatiti zastrašujuću informacijsku asimetriju kako dolazi. Samo se nadaš da će odluka koju god da doneseš biti dovoljno dobra. To možda nije "savršena" odluka i kasnije biste mogli požaliti zbog izbora. Drugi kut je taj da biste mogli pokušati osnažiti svoju stranu informacijske jednadžbe, iako to nije nužno besplatno i moglo bi prožvakati dragocjeno vrijeme, ovisno o tome je li dragocjeno vrijeme bitno.

Sada kada vas nedvojbeno tješi činjenica da moj auto dobro radi s potpuno novom i ispravnom gumom, mogu prijeći na pojavu AI asimetrije.

Razmotrite AI priču o jadu.

Tražite stambeni kredit. Postoji internetski analizator zahtjeva za hipotekom koji koristi određena banka. Online sustav koristi današnje napredne mogućnosti umjetne inteligencije. Nema potrebe razgovarati s ljudskim agentom za odobravanje kredita. AI radi sve.

AI sustav vas vodi kroz niz upita. Savjesno ispunjavate obrasce i odgovarate AI sustavu. Ovaj AI je vrlo brbljav. Dok ste u prošlosti možda koristili konvencionalni računalni sustav obrasca, ova AI varijanta sličnija je interakciji s ljudskim agentom. Ne sasvim, ali dovoljno da biste gotovo mogli vjerovati da je čovjek s druge strane ove aktivnosti.

Nakon što ste dali sve od sebe da "raspravite" vaš zahtjev s ovom umjetnom inteligencijom, na kraju vas obavještava da nažalost zahtjev za kredit nije odobren. Nekako vas hvata to što se čini da se umjetna inteligencija ispričava, kao da je umjetna inteligencija htjela odobriti zajam, ali ti zlobni ljudi koji nadziru banku ne dopuštaju umjetnoj inteligenciji da to učini. Za moje izvješćivanje o tome koliko su ove vrste navodnih isprika umjetne inteligencije obmanjujuće, pogledajte link ovdje.

Nemate pojma zašto su vas odbili. AI ne nudi nikakvo objašnjenje. Možda je umjetna inteligencija pogriješila ili zabrljala u svojim izračunima. Što je još gore, pretpostavimo da je umjetna inteligencija koristila neke vrlo upitne faktore kao što su vaša rasa ili spol pri odlučivanju o zajmu. Sve što znate je da se činilo da ste uzalud izgubili vrijeme iu međuvremenu predali tonu privatnih podataka umjetnoj inteligenciji i banci. Njihov AI vas je nadmašio.

Ovo bi bilo označeno kao primjer AI asimetrije.

Bio si ti protiv banke. Banka je bila naoružana umjetnom inteligencijom. Niste bili jednako naoružani. Imao si svoju pamet i svoju školu mudrosti teških udaraca, ali bez umjetne inteligencije u tvom stražnjem džepu. Um protiv stroja. Nažalost, stroj je u ovom slučaju pobijedio.

što ti je činiti

Prvo, moramo na društvenoj osnovi shvatiti da ova asimetrija umjetne inteligencije raste i postaje gotovo sveprisutna. Ljudi se susreću s umjetnom inteligencijom u svim sustavima s kojima svakodnevno komuniciramo. Ponekad je AI jedini element s kojim komuniciramo, kao u ovom primjeru o zahtjevu za zajam. U drugim slučajevima, čovjek bi mogao biti u petlji koja se oslanja na AI da im pomogne u obavljanju određene usluge. Za zajam bi se moglo dogoditi da banka želi da razgovarate s ljudskim agentom umjesto da komunicirate s umjetnom inteligencijom, ali za koji ljudski agent koristi računalni sustav za pristup AI koji vodi ljudskog agenta tijekom procesa traženja kredita (i, gotovo uvijek ste sigurni da će se ljudski agent ponašati kao da je zatočen jer mora striktno raditi sve što im AI "kaže da rade").

U svakom slučaju, AI je još uvijek u kombinaciji.

Drugo, moramo pokušati osigurati da se asimetrija umjetne inteligencije provodi barem na etičkoj osnovi umjetne inteligencije.

Dopustite mi da objasnim tu naizgled čudnu primjedbu. Vidite, ako možemo biti donekle sigurni da umjetna inteligencija djeluje na etički ispravan način, mogli bismo imati utjehu zbog asimetrije koja je u igri. Na donekle analognoj, ali također slobodnoj osnovi, mogli biste reći da da je moja interakcija s prvim prodavačem u trgovini gumama imala neke oštre etičke smjernice na mjestu i provodila se, možda mi ne bi bila ispričana priča koja mi je ispričana, ili barem ja možda ne bih morao odmah tražiti da otkrijem da li mi se govori velika priča.

Za koji trenutak ću objasniti više o etici umjetne inteligencije.

Treće, trebali bismo tražiti načine za smanjenje AI asimetrije. Ako ste imali umjetnu inteligenciju koja je bila na vašoj strani, nastojeći vam biti trener ili zaštitnik, možda biste mogli upotrijebiti tu umjetnu inteligenciju da biste se suprotstavili drugoj umjetnoj inteligenciji s kojom se sukobljavate. Kako kažu, ponekad ima smisla boriti se protiv vatre vatrom.

Prije nego što uđemo u još nešto mesa i krumpira o divljim i vunenim razmatranjima koja leže u pozadini AI asimetrije, utvrdimo neke dodatne osnove o duboko bitnim temama. Moramo nakratko zaroniti u etiku umjetne inteligencije, a posebno u pojavu strojnog učenja (ML) i dubokog učenja (DL).

Možda ste nejasno svjesni da je jedan od najglasnijih glasova ovih dana u području AI, pa čak i izvan polja AI-a, traženje većeg privida etičke AI. Pogledajmo što znači upućivanje na etiku umjetne inteligencije i etičku umjetnu inteligenciju. Povrh toga, istražit ćemo što mislim kada govorim o strojnom učenju i dubokom učenju.

Jedan poseban segment ili dio etike umjetne inteligencije koji privlači veliku pažnju medija sastoji se od umjetne inteligencije koja pokazuje nepristrane pristranosti i nejednakosti. Možda ste svjesni da je kada je započela najnovija era umjetne inteligencije došlo do velikog naleta entuzijazma za ono što neki sada nazivaju AI za dobro. Nažalost, za petama tog bujnog uzbuđenja, počeli smo svjedočiti AI za loše. Na primjer, otkriveno je da različiti sustavi za prepoznavanje lica temeljeni na umjetnoj inteligenciji sadrže rasne i rodne pristranosti, o čemu sam raspravljao na link ovdje.

Napori za uzvrat AI za loše aktivno su u tijeku. Osim glasnog legalno u potrazi za obuzdavanjem nedjela, postoji i suštinski poticaj prema prihvaćanju etike umjetne inteligencije kako bi se ispravila podlost AI. Ideja je da bismo trebali usvojiti i podržati ključna etička načela umjetne inteligencije za razvoj i primjenu umjetne inteligencije na taj način kako bismo smanjili AI za loše a istodobno najavljujući i promičući poželjno AI za dobro.

U vezi s tim, ja sam zagovornik pokušaja korištenja AI-a kao dijela rješenja za nevolje AI-a, boreći se s vatrom vatrom na taj način razmišljanja. Mogli bismo na primjer ugraditi komponente etičke umjetne inteligencije u sustav umjetne inteligencije koji će pratiti kako ostatak AI radi stvari i tako potencijalno u stvarnom vremenu uhvatiti sve diskriminatorne napore, pogledajte moju raspravu na link ovdje. Također bismo mogli imati zaseban sustav umjetne inteligencije koji djeluje kao vrsta monitora etike umjetne inteligencije. Sustav umjetne inteligencije služi kao nadzornik za praćenje i otkrivanje kada druga AI ide u neetički ponor (pogledajte moju analizu takvih sposobnosti na link ovdje).

Za trenutak ću s vama podijeliti neka sveobuhvatna načela na kojima se temelji etika umjetne inteligencije. Mnogo je ovakvih popisa koji lebde tu i tamo. Moglo bi se reći da još ne postoji jedinstveni popis univerzalne privlačnosti i podudarnosti. To je nesretna vijest. Dobra vijest je da barem postoje lako dostupni popisi etike umjetne inteligencije i obično su prilično slični. Sve u svemu, ovo sugerira da svojevrsnim oblikom razumne konvergencije pronalazimo put prema općem zajedništvu onoga od čega se sastoji etika umjetne inteligencije.

Prvo, ukratko pokrijmo neke od ukupnih etičkih AI propisa kako bismo ilustrirali što bi trebalo biti od vitalnog značaja za svakoga tko radi, koristi ili koristi umjetnu inteligenciju.

Na primjer, kako navodi Vatikan u Rim poziva na etiku umjetne inteligencije i kao što sam detaljno obradio na link ovdje, ovo je njihovih identificiranih šest primarnih etičkih načela AI:

• Transparentnost: U principu, AI sustavi moraju biti objašnjivi
• Uključenje, Ubrajanje: Potrebe svih ljudskih bića moraju se uzeti u obzir kako bi svi imali koristi, a svim pojedincima mogli biti ponuđeni najbolji mogući uvjeti za izražavanje i razvoj
• Odgovornost: Oni koji osmišljavaju i primjenjuju korištenje umjetne inteligencije moraju nastaviti s odgovornošću i transparentnošću
• Nepristranost: Nemojte stvarati niti djelovati u skladu s pristranostima, štiteći na taj način pravednost i ljudsko dostojanstvo
• Pouzdanost: AI sustavi moraju moći pouzdano raditi
• Sigurnost i privatnost: Sustavi umjetne inteligencije moraju raditi sigurno i poštivati ​​privatnost korisnika.

Kako navodi američko Ministarstvo obrane (DoD) u svom Etička načela za korištenje umjetne inteligencije i kao što sam detaljno obradio na link ovdje, ovo je njihovih šest primarnih etičkih načela AI:

• Odgovoran: Osoblje Ministarstva odbrane primjenjivat će odgovarajuću razinu prosuđivanja i brige, a pritom će ostati odgovorno za razvoj, implementaciju i korištenje sposobnosti umjetne inteligencije.
• pravedno: Odjel će poduzeti namjerne korake kako bi minimizirao nenamjernu pristranost u sposobnostima umjetne inteligencije.
• Sljedivo: AI sposobnosti Odjela bit će razvijene i raspoređene tako da relevantno osoblje posjeduje odgovarajuće razumijevanje tehnologije, razvojnih procesa i operativnih metoda primjenjivih na sposobnosti umjetne inteligencije, uključujući transparentne i podložne reviziji metodologije, izvore podataka te postupak i dokumentaciju dizajna.
• Pouzdan: Mogućnosti umjetne inteligencije Odjela imat će eksplicitnu, dobro definiranu upotrebu, a sigurnost, sigurnost i učinkovitost takvih sposobnosti bit će podvrgnuti testiranju i jamstvu unutar tih definiranih upotreba tijekom cijelog njihovog životnog ciklusa.
• Upravljiv: Odjel će dizajnirati i projektirati sposobnosti umjetne inteligencije kako bi ispunile svoje predviđene funkcije, a istovremeno će imati sposobnost otkrivanja i izbjegavanja neželjenih posljedica, te sposobnost isključivanja ili deaktiviranja raspoređenih sustava koji pokazuju nenamjerno ponašanje.

Također sam raspravljao o raznim kolektivnim analizama etičkih načela umjetne inteligencije, uključujući pokrivanje skupa koji su osmislili istraživači koji su ispitali i sažimali bit brojnih nacionalnih i međunarodnih etičkih načela umjetne inteligencije u radu pod naslovom “Globalni krajolik etičkih smjernica AI” (objavljeno u Priroda), a koje moje izvješće istražuje na link ovdje, što je dovelo do ovog popisa ključnih kamenaca:

• Prozirnost
• Pravda i pravednost
• Ne-zlonamjernost
• Odgovornost
• Privatnost
• Dobročinstvo
• Sloboda i autonomija
• Vjeruj
• Održivost
• Dostojanstvo
• Solidarnost

Kao što možete izravno pretpostaviti, pokušaj utvrđivanja specifičnosti na kojima se temelje ova načela može biti iznimno težak. Čak štoviše, napor da se ti široki principi pretvore u nešto sasvim opipljivo i dovoljno detaljno da se koristi pri izradi AI sustava također je tvrd orah. Lako je općenito malo reći što su etički propisi umjetne inteligencije i kako ih općenito treba poštivati, dok je mnogo kompliciranija situacija u kodiranju umjetne inteligencije koja mora biti prava guma koja se susreće s cestom.

Načela etike umjetne inteligencije moraju se koristiti od strane AI programera, zajedno s onima koji upravljaju razvojnim naporima AI, pa čak i onima koji u konačnici obavljaju i održavaju AI sustave. Svi dionici tijekom cijelog životnog ciklusa AI razvoja i upotrebe smatraju se u okviru poštivanja postojećih normi etičke umjetne inteligencije. Ovo je važan naglasak budući da je uobičajena pretpostavka da se “samo koderi” ili oni koji programiraju AI podliježu poštivanju pojmova etike umjetne inteligencije. Kao što je ranije rečeno, potrebno je selo za osmišljavanje i postavljanje AI, a za što cijelo selo mora biti upućeno u etičke propise AI i pridržavati se njih.

Uvjerimo se i da smo na istoj stranici o prirodi današnje umjetne inteligencije.

Danas ne postoji AI koji je razuman. Mi ovo nemamo. Ne znamo hoće li razumna AI biti moguća. Nitko ne može prikladno predvidjeti hoćemo li postići osjećajnu umjetnu inteligenciju, niti hoće li osjetilna umjetna inteligencija nekako čudesno spontano nastati u obliku računalne kognitivne supernove (koja se obično naziva singularnost, pogledajte moje izvješće na link ovdje).

Tip AI na koji se fokusiram sastoji se od neosjetne umjetne inteligencije koju danas imamo. Kad bismo htjeli divlje nagađati o osjetan AI, ova bi rasprava mogla ići u radikalno drugom smjeru. Osjetna AI bi navodno bila ljudske kvalitete. Morali biste uzeti u obzir da je razumna AI kognitivni ekvivalent čovjeka. Štoviše, budući da neki nagađaju da bismo mogli imati superinteligentnu umjetnu inteligenciju, moguće je da bi takva AI mogla na kraju biti pametnija od ljudi (za moje istraživanje superinteligentne AI kao mogućnosti, vidi pokrivenost ovdje).

Zadržimo stvari prizemnije i razmotrimo današnji računalni neosjetni AI.

Shvatite da današnja umjetna inteligencija nije sposobna "razmišljati" ni na koji način na razini ljudskog razmišljanja. Kada komunicirate s Alexom ili Siri, konverzacijski kapaciteti mogu se činiti sličnim ljudskim kapacitetima, ali realnost je da su računalni i da im nedostaje ljudska spoznaja. Najnovija era umjetne inteligencije uvelike je koristila strojno učenje (ML) i duboko učenje (DL), koji koriste uparivanje računalnih uzoraka. To je dovelo do AI sustava koji nalikuju ljudskim sklonostima. U međuvremenu, danas ne postoji umjetna inteligencija koja ima privid zdravog razuma niti ima bilo kakvo kognitivno čudo snažnog ljudskog razmišljanja.

ML/DL je oblik podudaranja računalnog uzorka. Uobičajeni pristup je da prikupljate podatke o zadatku donošenja odluka. Podatke unosite u modele računala ML/DL. Ti modeli nastoje pronaći matematičke obrasce. Nakon pronalaženja takvih uzoraka, ako ih pronađe, AI sustav će koristiti te uzorke kada naiđe na nove podatke. Nakon predstavljanja novih podataka, obrasci temeljeni na "starim" ili povijesnim podacima primjenjuju se za donošenje trenutne odluke.

Mislim da možete pogoditi kamo ovo vodi. Ako su ljudi koji su donosili odluke po uzoru na njih inkorporirali neugodne predrasude, velika je vjerojatnost da podaci to odražavaju na suptilan, ali značajan način. Računalno uparivanje obrasca strojnog učenja ili dubokog učenja jednostavno će pokušati matematički oponašati podatke u skladu s tim. Ne postoji privid zdravog razuma ili drugih osjećajnih aspekata modeliranja izrađenog od umjetne inteligencije.

Nadalje, AI programeri možda neće ni shvatiti što se događa. Tajna matematika u ML/DL-u mogla bi otežati otkrivanje sada skrivenih predrasuda. S pravom se nadate i očekujete da će AI programeri testirati potencijalno skrivene predrasude, iako je to teže nego što se čini. Postoji velika šansa da će čak i uz relativno opsežna testiranja biti pristranosti i dalje ugrađene u modele podudaranja uzoraka ML/DL-a.

Mogli biste donekle upotrijebiti poznatu ili zloglasnu izreku smeće-u smeće-van. Stvar je u tome što je ovo više slično predrasudama koje se podmuklo ulijevaju kao pristranosti potopljene unutar AI. Algoritam odlučivanja (ADM) AI aksiomatski postaje opterećen nejednakostima.

Nije dobro.

Vratimo se našem fokusu na AI asimetriju.

Kratak rezime o moje gore navedene tri preporuke je sljedeći:

1) Postanite svjesni da AI asimetrija postoji i raste

2) Nastojte osigurati da asimetrija umjetne inteligencije bude ograničena etikom umjetne inteligencije

3) Pokušajte se boriti s AI asimetrijom tako što ćete se naoružati AI

Pobliže ćemo pogledati posljednju točku borbe protiv vatre vatrom.

Zamislite da kada tražite zajam, imate umjetnu inteligenciju koja radi na vašoj strani. Ovo bi mogla biti aplikacija temeljena na umjetnoj inteligenciji na vašem pametnom telefonu koja je osmišljena za dobivanje zajmova. To nije aplikacija jedne od banaka, već je neovisno osmišljena da djeluje u vaše ime. Detaljno sam opisao ove vrste aplikacija u svojoj knjizi o botovima anđelima čuvarima temeljenim na umjetnoj inteligenciji link ovdje.

Nakon podnošenja zahtjeva za zajam, možete se obratiti ovoj aplikaciji dok vas druga umjetna inteligencija vodi kroz postupak prijave. Ova dva AI sustava su različita i potpuno odvojena jedan od drugog. AI na vašem pametnom telefonu je "istreniran" da zna sve trikove koje koristi drugi AI. Kao takvi, odgovori koje unesete u AI banke temeljit će se na onome što vam AI savjetuje.

Druga varijanta sastoji se od toga da vaša umjetna inteligencija odgovara na pitanja koja postavlja druga umjetna inteligencija. Koliko drugi AI može utvrditi, vi ste ti koji unosite odgovore. Umjesto toga možda samo gledate kako se odvija interakcija između dva borbena AI sustava. To vam omogućuje da vidite što vaša umjetna inteligencija nudi. Nadalje, potencijalno možete prilagoditi svoju umjetnu inteligenciju ovisno o tome jeste li zadovoljni onim što vaša umjetna inteligencija radi u vaše ime.

Predvidio sam da ćemo se svi postupno naoružati umjetnom inteligencijom koja će biti na našoj strani u ovim situacijama asimetrije umjetne inteligencije.

Razmotrimo kako će ovo funkcionirati.

Ovo su ključni utjecaji na stanje AI asimetrije koje sam izložio:

• Izravnavanje AI asimetrije u vašu korist (donosi vas prema gore, u nadi da ćete dosegnuti jednake razine)
• Poticanje AI asimetrije u vašu korist (podižući vas u prednost kada ste već jednaki)
• Pojačavanje AI asimetrije u vašu iznimnu korist (stjecanje veće prednosti kada ste već u prednosti)
• Nenamjerno potkopavanje AI asimetrije u vašu nemilost (kada ste već imali prednost i AI vas je nenamjerno povukao)

Vrijeme je da duboko zaronimo u ove intrigantne mogućnosti.

Izjednačavanje AI asimetrije u vašu korist

Izjednačavanje asimetrije umjetne inteligencije je najočitije i najčešće razmatrano razmatranje, naime da biste se naoružali umjetnom inteligencijom kako biste pokušali ići u koštac s umjetnom inteligencijom koju koristi druga strana u predmetu o kojem se radi. Postavka AI Asymmetry počela je s vama u izrazito nepovoljnom položaju. Nisi imao AI u svom kutu. Bio si na niskoj strani stvari. Druga strana je imala AI i bili su na višem terenu.

Dakle, mudro ste se naoružali umjetnom inteligencijom koja će vas i drugu umjetnu inteligenciju staviti u jednake uvjete.

Jedna važna i možda iznenađujuća nijansa koju treba imati na umu je da neće uvijek biti slučaj da će AI sustavi koji se koriste ravnomjerno balansirati jedan s drugim. Možete se naoružati umjetnom inteligencijom koja je, da kažemo, manje moćna od umjetne inteligencije koju koristi druga strana. U tom slučaju, povećali ste svoju lošu poziciju, srećom, iako sada niste potpuno jednaki s drugom stranom i njezinom umjetnom inteligencijom.

Zato ovo nazivam izravnavanjem AI asimetrije. Možda ćete moći smanjiti jaz, ali ga ne možete u potpunosti zatvoriti. Krajnji cilj bi bio koristiti AI na vašoj strani koja će vas dovesti u potpuno ravnopravan položaj. Stvar je u tome da ovo može, ali i ne mora biti izvedivo. Druga strana bi vjerojatno mogla imati stvarno skupu umjetnu inteligenciju, a vi se pokušavate natjecati s maminom i starom štedljivom mart verzijom umjetne inteligencije.

Nije svaki AI isti.

Poticanje AI asimetrije u vašu korist

O ovoj se okolnosti danas ne raspravlja, djelomično zato što je trenutno rijetka. Jednom će to biti uobičajeno. Ideja je da pretpostavimo da ste bez umjetne inteligencije, a ipak ste na ravnopravnom terenu sa stranom koja ima umjetnu inteligenciju.

Dobro za tebe.

Ljudi doista imaju svoju pamet.

Ali možda želite steći prednost u odnosu na drugu stranu. Naoružavanje umjetnom inteligencijom vodi vas na viši nivo. Sada imate svoju pamet i svoju pouzdanu umjetnu inteligenciju u rukama. Stekli ste prednost koja će vjerojatno prevladati nad AI druge strane.

Pojačavanje AI asimetrije u vašu iznimnu korist

Koristeći sličnu logiku kao aspekt poticanja AI asimetrije u vaše ime, pretpostavimo da ste već iznad mogućnosti druge strane koja koristi AI. Dakle, ne počinjete u ravnopravnom položaju. Vi ste na sreću već na vrhu.

Možda biste ipak htjeli osigurati još veću prednost. Stoga se naoružajte AI. Ovo podiže vašu glavu i ramena iznad druge strane.

Nenamjerno potkopavanje asimetrije umjetne inteligencije u vašu nemilost

Sumnjam da želite čuti za tu mogućnost. Imajte na umu da rad s umjetnom inteligencijom nije samo ruža i sladoled.

Može biti da kada se naoružate umjetnom inteligencijom, zapravo potkopavate sami sebe. Ako ste već bili manji od AI druge strane, sada ste u dubljoj rupi. Ako ste bili u jednakim uvjetima, sada ste u nepovoljnijem položaju. Ako ste bili iznad druge strane, sada ste jednaki ili ispod nje.

Kako se to moglo dogoditi?

Mogli biste se šokirati kada pomislite da će vas umjetna inteligencija koju usvojite odvesti na krivi put. To se lako može dogoditi. Samo zato što imate AI u svom kutu ne znači da je koristan. Možda koristite umjetnu inteligenciju i ona vam daje savjete za koje ne mislite nužno da su prikladni, ali ste se ipak odlučili koristiti njome. Vaša je logika u to vrijeme bila da, budući da ste se potrudili nabaviti umjetnu inteligenciju, možete se također pouzdati u nju.

AI koji koristite možda je neispravan. Ili je možda loše osmišljen. Postoji mnoštvo razloga zašto vam AI može dati nesigurne savjete. Oni koji slijepo prihvate sve što AI kaže da moraju učiniti, sigurno će se naći u svijetu boli. Ja sam u svojoj kolumni obrađivao takve nevolje, kao npr link ovdje.

Zaključak je da nema apsolutno nikakvog jamstva da ćete pobijediti u igri AI Asymmetry samo zato što ste se naoružali AI.

Možda ćete postići jednake uvjete. Mogli biste steći prednost. I, nažalost, morate biti oprezni jer bi se moglo dogoditi da padnete na niže razine kada ste naoružani umjetnom inteligencijom.

Do neke mjere, to je razlog zašto je etika umjetne inteligencije i etička umjetna inteligencija tako ključna tema. Pravila AI Etike tjeraju nas da ostanemo budni. AI tehnolozi ponekad mogu biti zaokupljeni tehnologijom, osobito optimizacijom visoke tehnologije. Oni ne uzimaju u obzir nužno veće društvene posljedice. Imati etičko razmišljanje AI-a i činiti to integralno za razvoj i primjenu AI-a ključno je za proizvodnju odgovarajuće AI-a.

Osim primjene Etike umjetne inteligencije, postavlja se odgovarajuće pitanje trebamo li imati zakone koji bi regulirali različite upotrebe umjetne inteligencije. Na saveznoj, državnoj i lokalnoj razini razrađuju se novi zakoni koji se tiču ​​raspona i prirode načina na koji bi se umjetna inteligencija trebala osmisliti. Napori za izradu i donošenje takvih zakona postupni su. Etika umjetne inteligencije služi kao zaustavna točka, u najmanju ruku, i gotovo će sigurno u određenoj mjeri biti izravno uključena u te nove zakone.

Imajte na umu da neki uporno tvrde da nam ne trebaju novi zakoni koji pokrivaju umjetnu inteligenciju i da su naši postojeći zakoni dovoljni. Zapravo, oni upozoravaju da ćemo, ako donesemo neke od ovih zakona o umjetnoj inteligenciji, ubiti zlatnu gusku tako što ćemo obuzdati napredak u umjetnoj inteligenciji koji nudi goleme društvene prednosti. Pogledajte na primjer moju pokrivenost na link ovdje i link ovdje.

U ovom trenutku ove teške rasprave, kladim se da ste željni nekih ilustrativnih primjera koji bi mogli pokazati ovu temu. Postoji poseban i sigurno popularan niz primjera koji su mi bliski srcu. Vidite, u mom svojstvu stručnjaka za umjetnu inteligenciju, uključujući etičke i pravne posljedice, od mene se često traži da identificiram realistične primjere koji prikazuju dileme etike umjetne inteligencije kako bi se donekle teoretska priroda teme mogla lakše shvatiti. Jedno od najzanimljivijih područja koje zorno predstavlja ovu etičku AI nedoumicu je pojava pravih samovozećih automobila temeljenih na umjetnoj inteligenciji. Ovo će poslužiti kao zgodan slučaj upotrebe ili primjer za široku raspravu o toj temi.

Evo onda važnog pitanja o kojem vrijedi razmisliti: Rasvjetljava li pojava pravih samovozećih automobila išta o AI asimetriji, i ako da, što to pokazuje?

Dopustite mi trenutak da raspakiram pitanje.

Prvo, imajte na umu da nema ljudskog vozača koji je uključen u istinski samovozeći automobil. Imajte na umu da se pravi samovozeći automobili voze putem AI sustava vožnje. Ne postoji potreba za ljudskim vozačem za volanom, niti je predviđeno da čovjek upravlja vozilom. Za moju opsežnu i stalnu pokrivenost autonomnih vozila (AV) i posebno samovozećih automobila, pogledajte link ovdje.

Želio bih dodatno pojasniti što se misli kada govorim o pravim samovozećim automobilima.

Razumijevanje razina samovozećih automobila

Kao pojašnjenje, istinski samovozeći automobili su oni u kojima AI vozi automobil potpuno sam i nema nikakve ljudske pomoći tijekom zadatka vožnje.

Ova vozila bez vozača smatraju se razinom 4 i 5 (pogledajte moje objašnjenje na ova poveznica ovdje), dok se automobil za koji je potreban ljudski vozač da sudjeluje u vožnji obično se smatra na razini 2 ili razine 3. Automobili koji dijele zadatak vožnje opisani su kao poluautonomni i obično sadrže razne automatizirani dodaci koji se nazivaju ADAS (Napredni sustavi za pomoć vozaču).

Još ne postoji pravi samovozeći automobil na razini 5, a još ne znamo ni hoće li to biti moguće postići, niti koliko će vremena trebati da se stigne do toga.

U međuvremenu, napori razine 4 pokušavaju postići određenu vuču prolazeći vrlo uska i selektivna ispitivanja na javnim cestama, iako postoji kontroverza oko toga treba li ovo ispitivanje biti dopušteno samo po sebi (svi smo zamorci života ili smrti u eksperimentu koji se održavaju na našim autocestama i usputnim cestama, neki se tvrde, pogledajte moje pokriće na ova poveznica ovdje).

Budući da za poluautonomne automobile potreban je ljudski vozač, usvajanje tih vrsta automobila neće se znatno razlikovati od vožnje konvencionalnih vozila, tako da o ovoj temi nema mnogo novog što bi se moglo pokriti (iako, kao što ćete vidjeti u trenu su sljedeće točke općenito primjenjive).

Za poluautonomne automobile važno je da javnost treba upozoriti na uznemirujući aspekt koji se pojavljuje u posljednje vrijeme, naime da usprkos onim ljudskim vozačima koji objavljuju videozapise o sebi kako zaspaju za volanom automobila razine 2 ili 3 , svi trebamo izbjegavati zabludu da vjerujemo kako vozač može oduzeti njihovu pažnju vozačkom zadatku tijekom vožnje poluautonomnog automobila.

Vi ste odgovorna strana za upravljačke radnje vozila, bez obzira na to koliko se automatizacija može ubaciti u razinu 2 ili razinu 3.

Samovozeći automobili i AI asimetrija

Za prava vozila sa samostalnom vožnjom razine 4 i 5, u vozačkoj zadaći neće sudjelovati ljudski vozač.

Svi putnici bit će putnici.

AI vozi vožnju.

Jedan od aspekata o kojem treba odmah razgovarati podrazumijeva činjenicu da AI uključen u današnje sustave vožnje AI nije osjetljiv. Drugim riječima, AI je sve skupa računalno zasnovanog programiranja i algoritama i zasigurno nije u stanju rasuđivati ​​na isti način na koji to mogu ljudi.

Zašto ovaj dodatni naglasak na tome da AI nije svjestan?

Budući da želim naglasiti da, raspravljajući o ulozi sustava upravljanja umjetnom inteligencijom, ne pripisujem ljudske osobine umjetnoj inteligenciji. Imajte na umu da danas postoji stalna i opasna tendencija antropomorfizacije AI. U osnovi, ljudi današnjoj umjetnoj inteligenciji dodjeljuju ljudsku osjetljivost, unatoč nepobitnoj i neupitnoj činjenici da još uvijek ne postoji takva umjetna inteligencija.

S tim pojašnjenjem možete predvidjeti da sustav upravljanja umjetnom inteligencijom neće nekako "znati" o aspektima vožnje. Vožnja i sve što to uključuje trebat će programirati kao dio hardvera i softvera samovozećeg automobila.

Zaronimo u bezbroj aspekata koji se mogu igrati na ovu temu.

Prvo, važno je shvatiti da nisu svi samovozeći automobili s umjetnom inteligencijom isti. Svaki proizvođač automobila i samovozeća tehnološka tvrtka zauzima svoj pristup osmišljavanju samovozećih automobila. Kao takav, teško je dati opširne izjave o tome što će AI sustavi za vožnju učiniti ili ne.

Nadalje, kad god konstatiraju da sustav upravljanja AI -om ne čini neku posebnu stvar, kasnije to mogu preuzeti razvojni programeri koji zapravo programiraju računalo da učini upravo tu stvar. Korak po korak, sustavi vožnje umjetne inteligencije postupno se poboljšavaju i proširuju. Današnje ograničenje danas možda više neće postojati u budućoj iteraciji ili verziji sustava.

Nadam se da to pruža dovoljan niz upozorenja koja će biti u osnovi onoga što ću ispričati.

Skicirajmo scenarij koji prikazuje AI asimetriju.

Razmislite o naizgled beznačajnom pitanju gdje će samovozeći automobili lutati da pokupe putnike. Ovo se čini kao krajnje bezazlena tema.

Za početak pretpostavimo da će AI automobili koji se sami voze lutati cijelim gradovima. Svatko tko želi zatražiti vožnju u samovozećem automobilu ima jednaku šansu da ga dobije. Postupno, umjetna inteligencija počinje primarno zadržavati samovozeće automobile u samo jednom dijelu grada. Ovaj odjeljak donosi veći novac i AI je programiran da pokuša i povećali prihoda kao dio upotrebe u zajednici općenito (ovo naglašava način razmišljanja koji leži u osnovi optimizacije, naime fokusiranje na samo jednu određenu metriku i zanemarivanje drugih ključnih čimbenika u procesu).

Pokazalo se da je manja vjerojatnost da će se članovi zajednice u siromašnim dijelovima grada moći provozati samovozećim automobilom. To je zato što su samovozeći automobili bili udaljeniji i lutali su u visokoprihodovnom dijelu grada. Kad zahtjev stigne iz udaljenog dijela grada, svaki drugi zahtjev iz bliže lokacije dobio bi veći prioritet. Naposljetku, dostupnost samovozećeg automobila na bilo kojem mjestu osim u bogatijem dijelu grada gotovo je nemoguća, što je užasno za one koji su živjeli u tim područjima koja su sada oskudna resursima.

Nestaju hvaljeni snovi o mobilnosti za sve koje bi samovozeći automobili trebali oživjeti.

Mogli biste ustvrditi da se AI sveukupno naslanjao na oblik statističke i računske pristranosti, sličan obliku proxy diskriminacije (također se često naziva neizravnom diskriminacijom). Shvatite da umjetna inteligencija nije programirana da izbjegava te siromašnije četvrti. Razjasnimo to u ovom slučaju. Ne, osmišljen je umjesto toga da se samo optimizira prihod, što je naizgled prihvatljiv cilj, ali to je učinjeno bez razmišljanja AI programera o drugim mogućim posljedicama. Ta je optimizacija zauzvrat nesvjesno i neizbježno dovela do neželjenog ishoda.

Da su uključili etička razmatranja umjetne inteligencije kao dio svog načina razmišljanja o optimizaciji, možda bi unaprijed shvatili da bi mogli izbjeći takve loše rezultate, osim ako nisu izradili AI da se nosi s ovom vrstom predimenzioniranja samo jedne metrike. Za više o ovim vrstama problema koje će vjerojatno izazvati široko prihvaćanje autonomnih vozila i samoupravljajućih automobila, pogledajte moje izvješće na ova poveznica ovdje, opisujući studiju pod vodstvom Harvarda čiji sam koautor o ovim temama.

U svakom slučaju, pretpostavite da je konj već izašao iz staje i da situacija nije odmah podložna sveobuhvatnim rješenjima.

Što mogu učiniti oni koji žele koristiti te samovozeće automobile?

Najočitiji pristup bio bi surađivati ​​s čelnicima zajednice na tome da se proizvođač automobila ili tehnološka tvrtka za samovozeće automobile natjera da preispitaju kako su postavili AI. Možda izvršiti pritisak na sve licence ili dozvole koje su izdane za upotrebu tih samovozećih automobila u tom gradu ili mjestu. To su vjerojatno održiva sredstva za postizanje pozitivnih promjena, iako bi moglo proći neko vrijeme prije nego što ti napori urode plodom.

Drugi kut bi bio naoružati se umjetnom inteligencijom.

Zamislite da je netko pametno osmislio aplikaciju temeljenu na umjetnoj inteligenciji koja radi na vašem pametnom telefonu i bavi se umjetnom inteligencijom proizvođača automobila ili operatera voznog parka koji prima zahtjeve za vožnju. Moguće je da umjetna inteligencija koju koristite iskorištava ključne elemente druge umjetne inteligencije tako da vaš zahtjev za samovozećim automobilom dobije veći prioritet. Imajte na umu da ne sugeriram da se događa nešto protuzakonito, već da je umjetna inteligencija na vašoj strani razvijena na temelju otkrivenih "značajki" ili čak rupa u zakonu u drugoj umjetnoj inteligenciji.

Zaključak

Priča o drskoj borbi protiv umjetne inteligencije operatera flote samovozećih automobila naoružavanjem AI-om dovodi do dodatnih kontroverzi i razmatranja etičke inteligencije.

Na primjer:

• Ako jedna osoba može iskoristiti umjetnu inteligenciju kako bi dobila prednost nad umjetnom inteligencijom nekog drugog sustava, koliko daleko to može ići u smislu mogućeg prelaska granica etičke inteligencije (uvjeravam samovozeće automobile da dođu do mene i mojih prijatelja, isključujući sve ostale)?
• Također, postoji li ikakav privid AI etičkog razmatranja da ako netko zna ili je naoružan AI-om da bi se borio s drugim AI-om, trebaju li oni preostali ljudi koji nemaju tu balansirajuću AI-ju biti na neki način upozoreni na AI-ju i moći se naoružati prema tome također?

Na kraju, sve nas to vodi u budućnost koja se čini jezivom, koja se sastoji od AI utrke u naoružanju. Tko će imati AI koji mu je potreban za snalaženje i preživljavanje, a tko ne? Hoće li uvijek postojati još jedna umjetna inteligencija koja će potaknuti potrebu za umjetnom inteligencijom kao protutežom?

Carl Sagan, cijenjeni znanstvenik, iznio je ovu mudru mudrost o posebno kataklizmičnim utrkama u naoružanju: "Utrka u nuklearnom naoružanju je poput dva zakleta neprijatelja koji stoje do struka u benzinu, jedan s tri šibice, drugi s pet."

Moramo odlučno težiti da nam noge ostanu suhe, a glave bistre kada je riječ o stalno prijetećoj utrci u naoružanju umjetne inteligencije.