AI etika i potraga za samosvijesti u AI

Jeste li samosvjesni?

Kladio bih se da vjeruješ da jesi.

Stvar je u tome što je navodno malo nas posebno samosvjesno. Postoji raspon ili stupanj samosvijesti i svi se navodno razlikujemo u tome koliko smo oštroumni samosvjesni. Možda mislite da ste potpuno samosvjesni, a to ste samo marginalno. Možda ste samosvjesni i shvatite da je to vaše mentalno stanje.

U međuvremenu, na najvišem dijelu spektra, mogli biste vjerovati da ste potpuno samosvjesni i doista ste iskreno onoliko samosvjesni koliko i jeste. Dobro za tebe.

Kad smo već kod toga, kakva je korist od toga da smo iznimno samosvjesni?

Prema istraživanju objavljenom u Harvard Business Review (HBR) od Tashe Eurich, navodno možete donositi bolje odluke, sigurniji ste u svoje odluke, jači ste u svojim komunikacijskim kapacitetima i općenito učinkovitiji (prema članku pod naslovom “Što je zapravo samosvijest (i kako) to Cultivate It)." Dodatni čimbenik je to što se za one s oštrom samosviješću kaže da su manje skloni varanju, krađi ili laganju. U tom smislu, postoji dva načina izbjegavanja da budete nitkov ili prevarant, zajedno s nastojeći biti bolje ljudsko biće i uljepšati svoje bližnje.

Sva ova priča o samosvijesti nameće pomalo očito pitanje, naime, što fraza samosvijest zapravo označava. Možete lako pronaći mnoštvo različitih definicija i tumačenja o složenom i, da tako kažemo, kašastom konstruktu koji uključuje samosvijest. Neki bi pojednostavili stvari sugerirajući da se samosvijest sastoji od nadziranja sebe, znajući što namjeravate. Vrlo ste svjesni vlastitih misli i postupaka.

Vjerojatno, kada nije samosvjesna, osoba ne bi shvaćala što radi, niti zašto to čini, a također ne bi bila svjesna onoga što drugi ljudi imaju za reći o njoj. Siguran sam da ste upoznali ljude koji su ovakvi.

Čini se da neki ljudi hodaju ovom zemljom bez ikakvog pojma o tome što sami rade, niti imaju privid onoga što drugi govore o njima. Pretpostavljam da biste mogli tvrditi da su poput bika koji juriša pognute glave u butiku delikatnih lomljivih stvari. Obično smo skloni vjerovati da bik ne zna što radi i da ostaje nesvjestan stajališta drugih osim ako ti drugi ne pokušaju fizički manevrirati ili zatvoriti nerazumno stvorenje.

Rečeno je da samosvijest može biti donekle rekurzivna.

Dopustite mi da skiciram primjer za ilustraciju ove rekurzije. Usred ste gledanja prilično zanimljivog videa mačke na svom pametnom telefonu (čini se da svi to rade). Neki ljudi ne bi imali druge očite misli osim čudesnih srdačnih ludorija tih dragih mačaka. U međuvremenu, svatko s mrvicu samosvijesti, svjestan je da gleda mačji video. Također bi mogli biti svjesni da drugi oko njih primjećuju da gledaju video s mačkom.

Primijetite da možete biti samosvjesni i još uvijek biti uronjeni u, da tako kažemo, određenu primarnu aktivnost. Primarna aktivnost u ovom slučaju je gledanje videa mačke. Sekundarno, i istovremeno, možete nositi misao da zapravo gledate video s mačkom. Također možete misliti da vas drugi promatraju dok gledate vrlo zabavan video s mačkom. Ne morate nužno prekinuti jednu aktivnost, kao što je prekid gledanja videa s mačkom, kako biste zatim zasebno razmišljali o tome da gledate (ili ste upravo gledali) video s mačkom. Te se misli mogu naizgled pojaviti paralelno jedna s drugom.

Ponekad bi nas samosvijest mogla izbaciti ili barem prekinuti primarnu mentalnu aktivnost. Možda vam se, dok razmišljate o tome kako gledate video s mačkom, vaš um djelomično odvoji jer se previše napreže koncentrirati samo na sam video. Odlučite se za premotavanje videozapisa unatrag kako biste ponovno pogledali dio koji ste na neki način vidjeli, ali vam je mentalno odvratilo pažnju od potpunog razumijevanja. Samosvijest je poremetila vašu primarnu mentalnu aktivnost.

U redu, sada smo spremni za pojavu rekurzivnih aspekata.

Jeste li spremni?

Gledate video s mačkom. Vaša samosvijest vas obavještava da gledate video mačke i da vas drugi gledaju dok vi gledate video. To je status quo.

Zatim napravite dodatni mentalni skok. Počinjete razmišljati o svojoj samosvijesti. Sami ste svjesni da angažirate svoju samosvijest. Evo kako to ide: Razmišljam li previše o tome kako gledam video s mačkom, pitate se očajnički? Ovo je još jedan sloj samosvijesti. Samosvijest rangirana na vrhu druge samosvijesti.

Postoji stara izreka da su kornjače sve dolje. Što se tiče fenomena samosvijesti, mogli biste biti:

• Nesvjestan sebe
• Samosvjestan sebe
• Samosvjestan svoje samosvijesti o sebi
• Self-aware of your being self-aware of your self-awareness of yourself
• Ad Infinitum (tj. i tako dalje)

Možda ste shvatili da sam ranije suptilno istaknuo da izgleda postoje dvije glavne kategorije samosvjesnosti. Jedna posebna teorija postulira da imamo neku vrstu unutarnje samosvijesti koja se usredotočuje na naša unutarnja stanja, a također imamo i vanjsku samosvijest koja nam pomaže u procjeni percepcija onih oko nas koji nas promatraju o nama.

Prema članku HBR-a, evo kratkog prikaza teoretizirane dvije vrste samosvijesti: “Prva, koju smo nazvali unutarnja samosvijest, predstavlja koliko jasno vidimo vlastite vrijednosti, strasti, težnje, usklađenost s okolinom, reakcije (uključujući misli, osjećaje, ponašanja, snage i slabosti) i utjecaj na druge.” A u međuvremenu druga je: "Druga kategorija, vanjska samosvijest, znači razumjeti kako nas drugi ljudi gledaju, u smislu onih istih čimbenika navedenih gore. Naše istraživanje pokazuje da su ljudi koji znaju kako ih drugi vide vještiji u pokazivanju empatije i prihvaćanju tuđe perspektive.”

Zgodna matrica dva puta dva ili četiri kvadrata može se izvesti tvrdnjom da se i unutarnja i vanjska samosvijest kreću od visoke do niske, a možete spojiti dvije kategorije jednu protiv druge. Istraživanje HBR-a pokazuje da se za vas kaže da ste jedan od ova četiri arhetipa samosvijesti:

• Introspector: Niska vanjska samosvijest + visoka unutarnja samosvijest
• Tragač: Niska vanjska samosvijest + niska unutarnja samosvijest
• Molimo Vas: visoka vanjska samosvijest + niska unutarnja samosvijest
• Svjestan: visoka vanjska samosvijest + visoka unutarnja samosvijest

Vrhunac bi bio "svjestan" arhetip koji se sastoji od toga da budete na najvišoj stepenici vanjske samosvjesnosti i isto tako na vrhu unutarnje samosvjesnosti. Da pojasnimo, ovu hvaljenu poziciju ne postižete nužno trajno. Možete kliziti naprijed-natrag između visokog i niskog položaja, unutar unutarnjeg i vanjskog područja samosvijesti. To može ovisiti o dobu dana, situaciji u kojoj se nalazite i nizu drugih važnih čimbenika.

Sada kada smo ljubazno pokrili neke temeljne elemente o samosvijesti, možemo to pokušati povezati s temom etičkog ponašanja.

Uobičajena tvrdnja o samosvjesnosti je da je vjerojatnije da ćete biti iznad razine kada ste samosvjesni. To znači, kao što je već navedeno, da ste manje skloni nepovoljnom etičkom ponašanju kao što su krađa, varanje i laganje. Obrazloženje za ovu tendenciju je da bi vas aktivnost vaše samosvijesti natjerala da shvatite da je vaše vlastito ponašanje neugodno ili neetično. Ne samo da se sami ulovite dok skrenete u mutne neetične vode, već ste također skloni vratiti se natrag na kopno (svetost etičkog teritorija), takoreći.

Vaša samosvijest pomaže vam u vježbanju samokontrole.

Kontrast bi vjerojatno bio kada postoji malo ili nimalo samosvijesti, što sugerira da je netko možda nesvjestan svoje sklonosti neetičkom ponašanju. Mogli biste tvrditi da takva nesvjesna osoba možda neće shvatiti da radi loše. Poput bika u prodavaonici lomljivog materijala, dok nešto očitije ne privuče njihovu pozornost, malo je vjerojatno da će se sami regulirati.

Usput, ne vjeruju svi u ovo. Neki bi tvrdili da se samosvijest može jednako lako primijeniti na neetičnost kao i na etičnost. Na primjer, zločinac bi mogao biti potpuno svjestan sebe i uživati ​​u tome što čini nedjelo. Njihova ih samosvijest čak oštrije tjera prema sve većim i većim djelima lošeg ponašanja.

Na ovome ima više oblaka nego što se može vidjeti na prvi pogled. Pretpostavimo da je netko itekako svjestan sebe, ali nije svjestan etičkih običaja određenog društva ili kulture. Na taj način nemaju nikakve etičke smjernice, unatoč navedenoj činjenici da su samosvjesni. Ili, ako želite, možda osoba zna za etičke propise i ne vjeruje da se oni na njih odnose. Smatraju se jedinstvenima ili izvan granica konvencionalnog etičkog razmišljanja.

Ide u krug.

Samosvijest bi se mogla protumačiti kao dvosjekli mač usmjeren na etiku, neki bi gorljivo naglasili.

Za sada krenimo s verzijom sretnog lica koja se uglavnom sastoji od samosvijesti koja nas vodi ili gura prema etičkom ponašanju. Ako je sve ostalo jednako, iznijet ćemo drsku pretpostavku da što je više samosvijesti, to ćete biti više etički skloni. Zasigurno se čini ugodnim i inspirativnim poželjeti to.

Promijenimo brzinu i uključimo umjetnu inteligenciju (AI).

Nalazimo se na raskrižju ove rasprave kako bismo povezali sve tekuće zaplete s rastućim područjem etičke umjetne inteligencije, također poznate kao etika umjetne inteligencije. Za moje kontinuirano i opsežno pokrivanje etike umjetne inteligencije, pogledajte link ovdje i link ovdje, Samo da spomenemo nekoliko.

Pojam etičke umjetne inteligencije podrazumijeva ispreplitanje polja etike i etičkog ponašanja do pojave umjetne inteligencije. Sigurno ste vidjeli naslove koji su uzbunili AI koja je prepuna nejednakosti i raznih predrasuda. Na primjer, postoji zabrinutost da sustavi za prepoznavanje lica temeljeni na umjetnoj inteligenciji ponekad mogu pokazati rasnu i rodnu diskriminaciju, obično kao rezultat načina na koji su temeljni objekti Strojnog učenja (ML) i Dubinskog učenja (DL) obučeni i postavljeni (pogledajte moju analizu na ova poveznica ovdje).

Pokušati zaustaviti ili barem ublažiti bijesnu jurnjavu prema AI za loše, koji se sastoji od AI sustava koji su ili nenamjerno ili povremeno namjerno oblikovani da djeluju loše, nedavno je došlo do hitne primjene etičkih pravila na razvoj i korištenje AI. Ozbiljan cilj je pružiti etičke smjernice programerima umjetne inteligencije, plus tvrtkama koje grade ili razvijaju umjetnu inteligenciju te onima koje ovise o aplikacijama umjetne inteligencije. Kao primjer etičkih načela umjetne inteligencije koja su izrađena i usvojena, pogledajte moje izvješće na link ovdje.

Dajte trenutak za razmišljanje kako biste razmotrili ova tri vrlo ključna pitanja:

• Možemo li natjerati programere umjetne inteligencije da prihvate etička načela umjetne inteligencije i stave te smjernice u stvarnu upotrebu?
• Možemo li natjerati tvrtke koje se bave umjetnom inteligencijom da rade isto?
• Možemo li postići da oni koji koriste umjetnu inteligenciju na sličan način budu svjesni etičkih aspekata umjetne inteligencije?

Rekao bih ovo bez stida, to je težak zadatak.

Uzbuđenje stvaranja umjetne inteligencije može nadjačati svaki nagovještaj pažnje prema etici umjetne inteligencije. Pa, ne samo uzbuđenje, već je i zarađivanje novca sastavni dio te jednadžbe. Možda ćete se iznenaditi kada znate da su neki u području umjetne inteligencije skloni reći da će se uhvatiti ukoštac s "stvarima" etičke umjetne inteligencije nakon što izbace svoje AI sustave. Ovo je tipična tehničarska mantra o brzom i čestom neuspjehu sve dok ne budete uspjeli (nadajmo se da ćete uspjeti).

Naravno, puštaju konja iz staje oni koji po kratkom postupku guraju etički sumnjivu umjetnu inteligenciju u javnost. Njihova proklamirana isturena ideja je da AI za loše popravit će se nakon što bude u svakodnevnoj uporabi, što je štetno zbog kašnjenja jer konj već bezobzirno galopira uokolo. Štete se mogu učiniti. Također postoji povećana vjerojatnost da se ništa neće popraviti ili prilagoditi dok je AI u upotrebi. Čest izgovor je da petljanje s umjetnom inteligencijom u tom trenutku može učiniti još gorim u smislu ionako neetičkog algoritamskog odlučivanja (ADM) koje će potpuno propasti.

Što se može učiniti kako bi se postigla korisnost i vitalnost postojanja etičke umjetne inteligencije kao jarko svijetlećeg svjetla vodilje u umovima onih koji grade AI, postavljaju AI i koriste AI?

Odgovor: Samosvijest.

Da, mišljenje je da kad bi ljudi bili svjesniji toga kako koriste ili komuniciraju s umjetnom inteligencijom, to bi moglo povećati njihovu sklonost prema želji da Etička umjetna inteligencija bude norma. Isto se može reći i za programere AI-a i tvrtke povezane sa sustavima AI-a. Da su samosvjesniji onoga što rade, možda bi više prihvaćali etiku umjetne inteligencije.

Dio logike, kao što je već navedeno, jest da biti samosvjestan nudi tendenciju da budete etički bolja osoba i također izbjegavate biti etički loša osoba. Ako možemo održati tu premisu, to implicira da će razvijači umjetne inteligencije koji su toliko skloni samosvijesti biti skloni etičkom ponašanju i stoga biti skloni proizvodnji etički zdrave umjetne inteligencije.

Je li vam to most predaleko?

Netko bi rekao da je posrednost malo. Pretjeran lanac poveznica između samosvjesnosti, etičke čestitosti i primjene etičkih pravila na AI možda je teško progutati. Protuargument je da ne može škoditi pokušati.

Skeptici bi rekli da programer umjetne inteligencije može biti samosvjestan i možda više etički nastrojen, ali neće nužno skočiti prema primjeni tog mentalnog logora na običaje etičke umjetne inteligencije. Odgovor na tu dvojbu je da ako možemo objaviti i popularizirati pitanja etičke umjetne inteligencije, inače naizgled slaba veza postat će očitija, očekivanija i vjerojatno postati standardni način obavljanja stvari kada je u pitanju izrada umjetne inteligencije.

Sada ću ovoj sagi dodati zaokret. Od zaokreta bi vam se moglo zavrtjeti u glavi. Molimo provjerite jeste li dobro sjedili i pripremili se za ono što ću vam reći.

Neki ističu da bismo etičku umjetnu inteligenciju trebali ugraditi izravno u samu umjetnu inteligenciju.

Možda ćete biti zbunjeni tom izjavom. Raspakirajmo ga.

Programer bi mogao stvoriti sustav umjetne inteligencije i učiniti to s vlastitom programskom samosviješću da pokušava spriječiti umjetnu inteligenciju da utjelovljuje pristranosti i nejednakosti. Umjesto da se samo pozabavi programiranjem, razvojni programer promatra preko vlastitog ramena kako bi se zapitao hoće li pristup koji poduzima rezultirati nužnim nedostatkom negativnih elemenata u AI-ju.

Sjajno, imamo AI programera koji se čini dovoljno samosvjestan, koji je nastojao prihvatiti etičko ponašanje i vidio je svjetlo da uključi etička načela dok izrađuje svoj AI sustav.

Ostvarite pobjedu za Ethical AI!

Sve lijepo i dobro, ali evo nečega što se kasnije može dogoditi. AI je postavljen i stavljen u svakodnevnu upotrebu. Dio umjetne inteligencije uključivao je komponentu za mogućnost "učenja" u hodu. To znači da se AI može prilagoditi na temelju novih podataka i drugih aspekata izvornog programiranja. Nakratko, to ne znači da je umjetna inteligencija osjetljiva. Nemamo osjetljivu umjetnu inteligenciju. Ignorirajte one glupe naslove koji govore da mi to radimo. Nitko ne može reći hoćemo li imati razumnu umjetnu inteligenciju, niti itko može dovoljno predvidjeti kada će se to dogoditi ako će se ikada dogoditi.

Vraćajući se našoj priči, AI je namjerno osmišljen kako bi se poboljšao dok je u tijeku. Prilično zgodna ideja. Umjesto da programeri neprestano rade poboljšanja, oni dopuštaju programu umjetne inteligencije da to čini sam (joj, hoćete li time ostati bez posla?).

Tijekom vremena u kojem se umjetna inteligencija centimetar po centimetar prilagođava, ispada da se razne prljave nejednakosti i pristranosti uvlače u sustav umjetne inteligencije njegovim vlastitim činovima izmjena. Dok je programer prvotno zadržao te dosadne aspekte, oni sada formuliraju zbog AI prilagođavanja u hodu. Nažalost, to se može dogoditi na tako suptilan način iza kulisa da nitko nije pametniji. Oni koji su prije možda dali zeleno svjetlo umjetnoj inteligenciji nakon početnog iscrpnog testiranja, sada su slijepo nesvjesni da je umjetna inteligencija krenula trulim putem AI za loše.

Jedan način da se spriječi ili barem uhvati ova nepoželjna pojava bilo bi ugraditi u AI neku vrstu etičkog AI-a za dvostruku provjeru. Komponenta unutar umjetne inteligencije programirana je da prati ponašanje umjetne inteligencije i otkrije počinje li se pojavljivati ​​neetički ADM. Ako je tako, komponenta bi mogla poslati upozorenje programerima umjetne inteligencije ili to učiniti tvrtki koja upravlja sustavom umjetne inteligencije.

Naprednija verzija ove komponente mogla bi pokušati popraviti AI. To bi bila prilagodba prilagodbi, pretvaranje neetičkih aspekata koji se pojavljuju natrag u odgovarajuće etičke parametre. Možete zamisliti da je ova vrsta programiranja nezgodna. Postoji šansa da zaluta, da se neetično pretvori u duboko neetično. Također postoji mogućnost lažno pozitivnog aktiviranja komponente i možda zabrljanja stvari u skladu s tim.

U svakom slučaju, bez da se zaglavimo u tome kako bi ova dvostruka provjera funkcionirala, napravit ćemo smionu izjavu o tome. Mogli biste sugerirati da se na neki ograničen način kaže da je umjetna inteligencija samosvjesna.

Joj, to su borbene riječi za mnoge.

Prevladavajuće uvjerenje gotovo svih je da današnja umjetna inteligencija nije samosvjesna. Točka, točka. Sve dok ne dosegnemo osjetljivu umjetnu inteligenciju, za koju ne znamo hoće li se i kada dogoditi, ne postoji nijedna vrsta umjetne inteligencije koja je samosvjesna. Ne barem u smislu samosvijesti usmjerene na čovjeka. Nemojte ni sugerirati da se to može dogoditi.

Svakako se slažem da moramo biti oprezni s antropomorfiziranjem umjetne inteligencije. Reći ću više o toj zabrinutosti za trenutak.

U međuvremenu, ako ste radi rasprave voljni upotrijebiti postupno "samosvjestan" na labav način, vjerujem da možete lako vidjeti zašto se za AI može reći da se pridržava općeg pojma samo- svijest. Imamo dio umjetne inteligencije koji nadzire ostatak umjetne inteligencije, prateći što ostatak umjetne inteligencije namjerava. Kada ostatak umjetne inteligencije počne pretjerivati, dio za praćenje nastoji to otkriti. Nadalje, dio za nadgledanje AI-ja ili dvostruka provjera mogli bi ostatak AI-ja usmjeriti natrag u odgovarajuće staze.

Ne liči li to pomalo na čin gledanja tih videa s mačkama i samosvijesti da to radite?

Tu je poznati prsten.

Možemo ovo još više produžiti. AI komponenta za dvostruku provjeru nije samo programirana da promatra ponašanje ostatka AI-ja, već također bilježi ponašanje onih koji koriste AI. Kako se ponašaju korisnici kada koriste AI? Pretpostavimo da neki korisnici izražavaju ogorčenje što se čini da ih AI diskriminira. AI sustav za dvostruku provjeru mogao bi ovo otkriti, koristeći to kao još jednu crvenu zastavu o tome da ostatak AI-a zaluta.

Ovo dovodi do kategorizacije unutarnje samosvijesti i vanjske samosvijesti.

AI dvostruka provjera skenira interno i eksterno kako bi otkrila je li ostatak AI krenuo u problematična mora. Otkrivanje će podići zastavicu ili uzrokovati pokretanje samoispravljanja.

Dodajmo još jedno pomalo zapanjujuće proširenje. Izgradili smo još jedan AI uređaj za dvostruku provjeru koji je namijenjen dvostrukoj provjeri osnovnog AI alata za dvostruku provjeru. Zašto? Pa, pretpostavimo da se čini da AI dvostruka provjera posrće ili ne radi svoj posao. AI dvostruka provjera dvostruke provjere nastojat će otkriti ovaj kvar i poduzeti potrebne radnje u skladu s tim. Dobrodošli u rekurzivnu prirodu samosvijesti, neki bi mogli ponosno izjaviti, kao što je prikazano u računalnom AI sustavu.

Za one od vas koji su već na rubu svog mjesta u vezi ovoga, posljednji komentar, za sada, je da bismo mogli pokušati sugerirati da ako sustave umjetne inteligencije učinite "samosvjesnima", oni će tada potencijalno gravitirati prema etičkom ponašanju. Rade li to na razumnoj osnovi? Odlučno, ne. Rade li to na računskoj osnovi? Da, iako moramo biti jasni da to nije istog kalibra kao ljudsko ponašanje.

Ako vam je neugodno što se pojam samosvijesti pogrešno iskrivljuje kako bi se uklopio u računsku shemu, vaša sumnja u to je dobro zapažena. Još je jedno otvoreno pitanje trebamo li zaustaviti stalne napore AI-ja koji iskorištavaju tu ideju. Mogli biste uvjerljivo tvrditi da se barem čini da nas vodi prema boljem ishodu onoga što će AI vjerojatno učiniti. Ipak, moramo imati širom otvorene oči dok se ovo događa.

Valjda ćemo morati vidjeti kako će se sve ovo odigrati. Vratite se na ovo za pet godina, deset godina i pedeset godina i pogledajte je li se vaše razmišljanje promijenilo o kontroverznoj stvari.

Shvaćam da je ovo bilo pomalo opojno ispitivanje teme i možda žudite za nekim svakodnevnim primjerima. Postoji poseban i sigurno popularan niz primjera koji su mi bliski srcu. Vidite, u mom svojstvu stručnjaka za umjetnu inteligenciju, uključujući etičke i pravne posljedice, od mene se često traži da identificiram realistične primjere koji prikazuju dileme etike umjetne inteligencije kako bi se donekle teoretska priroda teme mogla lakše shvatiti. Jedno od najzanimljivijih područja koje zorno predstavlja ovu etičku AI nedoumicu je pojava pravih samovozećih automobila temeljenih na umjetnoj inteligenciji. Ovo će poslužiti kao zgodan slučaj upotrebe ili primjer za široku raspravu o toj temi.

Evo onda važnog pitanja o kojem vrijedi razmisliti: Rasvjetljava li pojava pravih samovozećih automobila temeljenih na umjetnoj inteligenciji nešto o tome da umjetna inteligencija ima privid "samosvijesti" i ako jest, što to pokazuje?

Dopustite mi trenutak da raspakiram pitanje.

Prvo, imajte na umu da nema ljudskog vozača koji je uključen u istinski samovozeći automobil. Imajte na umu da se pravi samovozeći automobili voze putem AI sustava vožnje. Ne postoji potreba za ljudskim vozačem za volanom, niti je predviđeno da čovjek upravlja vozilom. Za moju opsežnu i stalnu pokrivenost autonomnih vozila (AV) i posebno samovozećih automobila, pogledajte link ovdje.

Želio bih dodatno pojasniti što se misli kada govorim o pravim samovozećim automobilima.

Razumijevanje razina samovozećih automobila

Kao pojašnjenje, istinski samovozeći automobili su oni koji AI automobilom upravljaju potpuno samostalno, a tijekom zadatka vožnje nema nikakve ljudske pomoći.

Ova vozila bez vozača smatraju se razinom 4 i 5 (pogledajte moje objašnjenje na ova poveznica ovdje), dok se automobil za koji je potreban ljudski vozač da sudjeluje u vožnji obično se smatra na razini 2 ili razine 3. Automobili koji dijele zadatak vožnje opisani su kao poluautonomni i obično sadrže razne automatizirani dodaci koji se nazivaju ADAS (Napredni sustavi za pomoć vozaču).

Još nema pravog automobila za samostalnu vožnju na razini 5, za koji još ne znamo hoće li to biti moguće i koliko će vremena trebati da se tamo stigne.

U međuvremenu, napori razine 4 pokušavaju postići određenu vuču prolazeći vrlo uska i selektivna ispitivanja na javnim cestama, iako postoji kontroverza oko toga treba li ovo ispitivanje biti dopušteno samo po sebi (svi smo zamorci života ili smrti u eksperimentu koji se održavaju na našim autocestama i usputnim cestama, neki se tvrde, pogledajte moje pokriće na ova poveznica ovdje).

Budući da za poluautonomne automobile potreban je ljudski vozač, usvajanje tih vrsta automobila neće se znatno razlikovati od vožnje konvencionalnih vozila, tako da o ovoj temi nema mnogo novog što bi se moglo pokriti (iako, kao što ćete vidjeti u trenu su sljedeće točke općenito primjenjive).

Za poluautonomne automobile važno je da javnost treba upozoriti na uznemirujući aspekt koji se pojavljuje u posljednje vrijeme, naime da usprkos onim ljudskim vozačima koji objavljuju videozapise o sebi kako zaspaju za volanom automobila razine 2 ili 3 , svi trebamo izbjegavati zabludu da vjerujemo kako vozač može oduzeti njihovu pažnju vozačkom zadatku tijekom vožnje poluautonomnog automobila.

Vi ste odgovorna strana za upravljačke radnje vozila, bez obzira na to koliko se automatizacija može ubaciti u razinu 2 ili razinu 3.

Automobili koji se sami voze i umjetna inteligencija imaju takozvanu samosvijest

Za prava vozila sa samostalnom vožnjom razine 4 i 5, u vozačkoj zadaći neće sudjelovati ljudski vozač.

Svi putnici bit će putnici.

AI vozi vožnju.

Jedan od aspekata o kojem treba odmah razgovarati podrazumijeva činjenicu da AI uključen u današnje sustave vožnje AI nije osjetljiv. Drugim riječima, AI je sve skupa računalno zasnovanog programiranja i algoritama i zasigurno nije u stanju rasuđivati ​​na isti način na koji to mogu ljudi.

Zašto ovaj dodatni naglasak na tome da AI nije svjestan?

Budući da želim naglasiti da, raspravljajući o ulozi sustava upravljanja umjetnom inteligencijom, ne pripisujem ljudske osobine umjetnoj inteligenciji. Imajte na umu da danas postoji stalna i opasna tendencija antropomorfizacije AI. U osnovi, ljudi današnjoj umjetnoj inteligenciji dodjeljuju ljudsku osjetljivost, unatoč nepobitnoj i neupitnoj činjenici da još uvijek ne postoji takva umjetna inteligencija.

S tim pojašnjenjem možete predvidjeti da sustav upravljanja umjetnom inteligencijom neće nekako "znati" o aspektima vožnje. Vožnja i sve što to uključuje trebat će programirati kao dio hardvera i softvera samovozećeg automobila.

Zaronimo u bezbroj aspekata koji se mogu igrati na ovu temu.

Prvo, važno je shvatiti da nisu svi samovozeći automobili s umjetnom inteligencijom isti. Svaki proizvođač automobila i samovozeća tehnološka tvrtka zauzima svoj pristup osmišljavanju samovozećih automobila. Kao takav, teško je dati opširne izjave o tome što će AI sustavi za vožnju učiniti ili ne.

Nadalje, kad god konstatiraju da sustav upravljanja AI -om ne čini neku posebnu stvar, kasnije to mogu preuzeti razvojni programeri koji zapravo programiraju računalo da učini upravo tu stvar. Korak po korak, sustavi vožnje umjetne inteligencije postupno se poboljšavaju i proširuju. Današnje ograničenje danas možda više neće postojati u budućoj iteraciji ili verziji sustava.

Vjerujem da to pruža dovoljno litanija upozorenja da potkrijepi ono o čemu ću govoriti.

Sada smo spremni duboko zaroniti u samovozeće automobile i etička AI pitanja koja uključuju zapanjujuću ideju da AI ima neku vrstu samosvijesti, ako želite.

Upotrijebimo vrlo jednostavan primjer. Samovozeći automobil baziran na umjetnoj inteligenciji u tijeku je na ulicama vašeg susjedstva i čini se da vozi sigurno. Isprva ste posvećivali posebnu pažnju svaki put kada biste uspjeli baciti pogled na samovozeći automobil. Autonomno vozilo isticalo se svojom stalkom elektroničkih senzora koji su uključivali video kamere, radarske jedinice, LIDAR uređaje i slično. Nakon mnogo tjedana samovozećeg automobila koji krstari vašom zajednicom, sada to jedva primjećujete. Što se vas tiče, to je samo još jedan automobil na već prometnim javnim cestama.

Da ne mislite da je nemoguće ili nevjerojatno upoznati se s viđanjem samovozećih automobila, često sam pisao o tome kako su se područja koja su u okviru testiranja samovozećih automobila postupno navikla vidjeti dotjerana vozila, pogledajte moju analizu na ova poveznica ovdje. Mnogi mještani naposljetku su se prebacili s razjapljenih usta ushićenog buljenja u sada emitujući ekspanzivno zijevanje dosade kako bi svjedočili tim vijugavim samovozećim automobilima.

Vjerojatno je trenutno glavni razlog zašto bi mogli primijetiti autonomna vozila zbog faktora iritacije i razdraženosti. Uobičajeni AI sustavi za vožnju osiguravaju da automobili poštuju sva ograničenja brzine i pravila na cesti. Za užurbane ljudske vozače u svojim tradicionalnim automobilima koje upravljaju ljudi, ponekad se razljutite kada ste zaglavljeni iza samovozećih automobila baziranih na umjetnoj inteligenciji koji se strogo pridržavaju zakona.

To je nešto na što bismo se svi trebali naviknuti, s pravom ili ne.

Natrag na našu priču. Jednog dana, pretpostavimo da se samovozeći automobil u vašem mjestu ili gradu približava znaku Stop i ne čini se da usporava. Nebesa, čini se da će sustav vožnje s umjetnom inteligencijom natjerati samovozeći automobil da prođe odmah iza znaka Stop. Zamislite da je pješak ili vozač bicikla negdje u blizini i da je uhvaćen nespreman da se samovozeći automobil neće pravilno zaustaviti. Sramotno. Opasno!

I, ilegalno.

Razmotrimo sada AI komponentu u AI sustavu vožnje koja djeluje kao stil samosvjesne dvostruke provjere.

Uzet ćemo trenutak da istražimo detalje o tome što se događa unutar AI sustava vožnje. Ispostavilo se da su video kamere postavljene na autonomno vozilo detektirale nešto što se činilo kao znak Stop, iako u ovom slučaju izraslo stablo obilno zaklanja znak Stop. Sustav strojnog učenja i dubokog učenja koji je izvorno treniran na znakovima Stop osmišljen je na uzorcima uglavnom punih znakova Stop, općenito nesputanih. Nakon računalnog ispitivanja video slika, mala je vjerojatnost da je znak Stop postojao na tom određenom mjestu (kao dodatna komplikacija i dodatno objašnjenje, ovo je bio novo postavljeni znak Stop koji se nije pojavio na prethodno pripremljenim digitalnim kartama koje je AI sustav vožnje na koji se oslanjao).

Sve u svemu, AI sustav za vožnju računalno je odlučio nastaviti naprijed kao da znak Stop ili ne postoji ili je možda znak neke druge vrste koji je možda sličan znaku Stop (ovo se može dogoditi i događa se s određenom učestalošću).

Ali, srećom, AI samosvjesna dvostruka provjera nadzirala je aktivnosti AI pogonskog sustava. Nakon računalnog pregleda podataka i procjene od strane ostatka umjetne inteligencije, ova je komponenta odlučila nadjačati normalni tijek postupka i umjesto toga naredila sustavu za vožnju umjetne inteligencije da se zaustavi na odgovarajući način.

Nitko nije ozlijeđen, niti je došlo do protuzakonitih radnji.

Moglo bi se reći da je AI samosvjesna dvostruka provjera djelovala kao da je ugrađeni legalni agent, pokušavajući osigurati da AI sustav vožnje poštuje zakon (u ovom slučaju, znak Stop). Naravno, sigurnost je također bila ključna.

Taj primjer, nadamo se, prikazuje kako bi zamišljena dvostruka provjera svjesna umjetne inteligencije mogla funkcionirati.

Zatim možemo ukratko razmotriti istaknutiji primjer etičke umjetne inteligencije koji ilustrira kako samosvjesna dvostruka provjera umjetne inteligencije može pružiti ugrađenu funkcionalnost usmjerenu na etičku umjetnu inteligenciju.

Prvo, kao pozadinu, jedna od zabrinutosti koja je izražena u vezi s dolaskom samovozećih automobila temeljenih na umjetnoj inteligenciji jest da bi se oni mogli koristiti na donekle nenamjeran diskriminirajući način. Evo kako. Pretpostavimo da su ti samovozeći automobili postavljeni da pokušaju maksimizirati svoj potencijal prihoda, što definitivno ima smisla za one koji upravljaju flotom dostupnih samovozećih automobila za dijeljenje vožnje. Vlasnik voznog parka želi imati profitabilno poslovanje.

Može se dogoditi da u određenom mjestu ili gradu samovozeći automobili u roamingu postupno počnu služiti nekim dijelovima zajednice, a ne drugim područjima. Čine to s ciljem zarađivanja novca, budući da siromašnija područja možda neće donositi prihod kao bogatiji dijelovi zemlje. Ovo nije izričita težnja služenja nekim područjima, a ne služenja drugima. Umjesto toga, organski proizlazi da umjetna inteligencija samovozećih automobila računalno "shvati" da se više novca može zaraditi koncentriranjem na geografski bolje plaćena područja. Raspravljao sam o ovoj društvenoj etičkoj zabrinutosti u svojoj kolumni, kao što je na link ovdje.

Pretpostavimo da smo dodali AI samosvjesnu dvostruku provjeru u upravljačke sustave AI. Nakon nekog vremena komponenta umjetne inteligencije računalno primjećuje obrazac kretanja samovozećih automobila. Naime, u nekim područjima, ali ne iu drugim. Na temelju toga što je kodiran s nekim etičkim AI pravilima, AI samosvjesna dvostruka provjera počinje voditi samovozeće automobile u druge dijelove grada koji su inače bili zanemareni.

Ovo ilustrira pojam samosvjesne umjetne inteligencije i to u kombinaciji s etičkim elementom umjetne inteligencije.

Još jedan takav primjer mogao bi dati uvid da ovo razmatranje etičke umjetne inteligencije također može biti prilično otrežnjujuće i ozbiljno razgranavanje na život ili smrt.

Razmotrite novinsko izvješće o nedavnoj prometnoj nesreći. Navodno je ljudski vozač dolazio do prometnog raskrižja i imao je zeleno svjetlo da nastavi ravno. Drugi vozač projurio je kroz crveno svjetlo i ušao u raskrižje kada to nisu trebali učiniti. Vozač sa zelenim svjetlom u zadnji je trenutak shvatio da će se ovaj drugi auto žestoko zabiti u njegov automobil.

Prema riječima ovog ugroženog vozača, on je pažljivo izračunao da će ga ili udariti drugi automobil ili da može skrenuti kako bi pokušao izbjeći uljeza. Problem kod skretanja bio je taj što su u blizini bili pješaci koji bi bili ugroženi.

Koji biste odabrali?

Možete se pripremiti na udarac i nadati se da vas šteta neće osakatiti ili ubiti. S druge strane, možete radikalno skrenuti, ali ozbiljno ugroziti i možda ozlijediti ili ubiti pješake u blizini. Ovo je težak problem, koji uključuje moralnu prosudbu i potpuno je prožet etičkim (i pravnim) implikacijama.

Postoji etička dilema opće namjene koja pokriva ovu vrstu dileme, poznata ili možda zloglasno nazvana Problem s kolicima, pogledajte moje opširno izvješće na ova poveznica ovdje. Ispostavilo se da je to etički poticajan misaoni eksperiment koji potječe iz ranih 1900-ih. Kao takva, tema je prisutna već neko vrijeme, a nedavno se općenito povezuje s dolaskom umjetne inteligencije i samovozećih automobila.

Zamijenite ljudskog vozača sustavom za vožnju AI ugrađenim u samovozeći automobil.

Zamislite onda da samovozeći automobil s umjetnom inteligencijom ulazi u raskrižje i senzori autonomnog vozila iznenada detektiraju automobil kojim upravljaju ljudi koji opasno dolazi izravno kroz crveno svjetlo i cilja na automobil bez vozača. Pretpostavimo da samovozeći automobil ima nekoliko putnika unutar vozila.

Što želite da AI radi?

Treba li AI sustav vožnje odlučiti nastaviti naprijed i biti zarinut (vjerojatno ozljeđujući ili možda ubivši putnike u vozilu), ili želite da AI sustav vožnje riskira i skrene, iako radnja skretanja preuzima autonomno vozilo opasno prema obližnjim pješacima i može ih ozlijediti ili ubiti.

Mnogi AI proizvođači samovozećih automobila imaju pristup s glavom u pijesak ovim etičkim AI teškoćama. Općenito gledano, AI kako je trenutno programiran jednostavno bi zaorao naprijed i bio žestoko udaren od strane drugog automobila. AI nije bio programiran da traži druge manevre izbjegavanja.

Više sam puta predvidio da će se ovaj stav proizvođača samovozećih automobila s umjetnom inteligencijom na kraju pojaviti i ugristi ih (moja analiza je na link ovdje). Možete očekivati ​​tužbe koje uključuju takve automobilske nesreće koje će nastojati otkriti za što je AI programirana. Je li tvrtka ili programeri umjetne inteligencije ili operater flote koji su razvili i postavili umjetnu inteligenciju bili nemarni ili odgovorni za ono što je umjetna inteligencija učinila ili nije učinila? Također možete predvidjeti da će u javnosti zakuhati etička svijest o umjetnoj inteligenciji kada se ovakvi slučajevi dogode.

U ovu etičku AI dilemu ulazi naš hvaljeni AI samosvjestan dvostruki provjerivač koji je orijentiran na etiku. Možda bi ova posebna AI komponenta mogla djelovati u ovakvim okolnostima. Dio nadzire ostatak AI sustava vožnje i status samovozećeg automobila. Kada se pojavi strašan trenutak kao što je ovaj, AI komponenta služi kao rješavanje problema s kolicima i nudi ono što AI sustav vožnje treba učiniti.

Nije lako kodirati, uvjeravam vas.

Zaključak

Podijelit ću s vama za sada posljednju misao na ovu temu.

Vjerojatno će vam biti intrigantno.

Znate li za ogledalo test?

To je prilično dobro poznato u proučavanju samosvijesti. Drugi nazivi za to pitanje su test samoprepoznavanja ogledala, test crvene mrlje, test rumenila i srodne fraze. Tehnika i pristup prvotno su osmišljeni ranih 1970-ih za procjenu samosvijesti životinja. Životinje koje su navodno uspješno prošle test uključuju majmune, određene vrste slonova, dupine, svrake i neke druge. Životinje koje su testirane i navodno nisu prošle test uključuju velike pande, morske lavove itd.

Evo dogovora.

Kada životinja vidi sebe u ogledalu, shvaća li životinja da je prikazana slika ona sama ili misli da je druga životinja?

Vjerojatno životinja vizualno prepoznaje vlastitu vrstu, nakon što je vidjela drugu svoju vrstu, pa bi stoga mogla pomisliti da je životinja prikazana u zrcalu rođakinja ili možda ratoborni natjecatelj (osobito ako životinja reži na sliku u zrcalu, što u čini se da turn reži uzvraća na njih). Možda ste vidjeli svoju kućnu mačku ili voljenog kućnog ljubimca kako čini isto kada se prvi put ugleda u kućnom ogledalu.

U svakom slučaju, pretpostavili bismo da se divlja životinja nikad prije nije vidjela. Pa, ovo nije nužno točno, budući da se životinja možda ugledala u mirnoj lokvi vode ili kroz sjajnu formaciju stijena. Ali to se smatra manje vjerojatnim prilikama.

U redu, želimo nekako procijeniti je li životinja u stanju shvatiti da je ona zapravo životinja prikazana u ogledalu. Razmislite o tom naizgled jednostavnom činu. Ljudi već u mladosti shvaćaju da postoje i da svoje postojanje dokazuju gledajući sebe u ogledalu. Postaju svjesni sebe. U teoriji, možda nećete shvatiti da ste vi, dok se ne vidite u ogledalu.

Možda životinje nisu u stanju kognitivno postati samosvjesne na isti način. Može se dogoditi da životinja vidi sebe u ogledalu i stalno vjeruje da je neka druga životinja. Koliko god se puta vidjelo, svejedno bi pomislilo da je to drugačija životinja od njega.

Trik u ovome dolazi do izražaja. Označavamo životinju. Ova oznaka mora biti vidljiva samo kada se životinja vidi u ogledalu. Ako se životinja može okrenuti ili okrenuti i vidjeti žig na sebi (izravno), to uništava eksperiment. Nadalje, životinja ne može osjetiti, pomirisati ili na bilo koji drugi način otkriti znak. Još jednom, kad bi to učinili, to bi uništilo eksperiment. Životinja ne može znati da smo stavili žig na nju, jer bi to zvijeri dalo naslutiti da je nešto tamo.

Želimo suziti stvari tako da bi jedini mogući razlog da se znak otkrije bio gledanje samog sebe u zrcalu.

Aha, test je sada spreman. Životinja se postavlja ispred ogledala ili odluta do njega. Ako životinja naknadno pokuša dotaknuti ili kopati žig, razumno bismo zaključili da bi se to dogodilo jedino ako bi životinja shvatila da je žig na sebi. Vrlo malo životinjskih vrsta uspjelo je uspješno proći ovaj test.

Postoji niz kritika na račun testa. Ako je ljudski tester u blizini, mogao bi dati stvari buljeći u žig, što bi moglo dovesti do toga da ga životinja očeša ili opipa. Druga je mogućnost da životinja i dalje vjeruje da je u zrcalu prikazana druga životinja, ali je iste vrste, pa se pita ima li i ona žig kao na drugoj životinji.

Sve dalje i dalje.

Siguran sam da vam je drago što to znate i da ćete ubuduće razumjeti zašto postoji točka ili neka čudna oznaka na životinji koja inače ne bi imala takvu oznaku. Tko zna, možda je nedavno završio eksperiment ogledala. Čestitajte životinji, sigurno, jer je bila velikodušan sudionik.

Kakve veze to ima sa samovozećim automobilima temeljenim na umjetnoj inteligenciji?

Svidjet će vam se ovaj dio.

Dugom autocestom vozi se samovozeći automobil. AI sustav vožnje koristi senzore za otkrivanje drugog prometa. Ovo je autocesta s dva traka na kojoj se promet odvija jednim trakom prema sjeveru, a drugim trakom prema jugu. Povremeno će se automobili i kamioni pokušati mimoići, čineći to ulaskom u suprotnu traku, a zatim skačući natrag u svoju pravu traku.

Vidjeli ste ovo, nedvojbeno ste to učinili.

Kladim se da se i vama dogodio ovaj sljedeći aspekt. Ispred samovozećeg automobila nalazi se jedan od onih pozamašnih kamiona cisterni. Izrađena je od sjajnog metala. Ulašten i čist kao zviždaljka. Kad sjednete iza takvog kamiona, kroz stražnji dio cisterne možete vidjeti zrcalnu sliku svog automobila. Ako ste ovo vidjeli, znate koliko može biti očaravajuće. Tu ste, vi i vaš automobil, odraženi u zrcalnom odrazu stražnjeg dijela kamiona cisterne.

Sjednite za ludi obrat.

Samovozeći automobil dolazi iza kamiona cisterne. Kamere otkrivaju sliku automobila koja se prikazuje u odrazu poput zrcala. Vau, procjenjuje AI, je li to auto? Dolazi li do samovozećeg automobila? Kako se samovozeći automobil sve više približava cisterni, čini se da je automobil sve bliže i bliže.

Joj, AI bi računalno mogao izračunati da je ovo opasna situacija i AI bi trebao poduzeti akciju izbjegavanja ovog ludog odmetničkog vozila. Vidite, umjetna inteligencija se nije prepoznala u ogledalu. Pao je na testu zrcala.

Što učiniti? Možda AI samosvjesna dvostruka provjera uskoči u stvar i uvjeri ostatak AI pogonskog sustava da je to samo bezopasna refleksija. Opasnost izbjegnuta. Svijet je spašen. Uspješan prolaz AI Mirror testa!

Uz jezičav zaključak, mogli bismo čak sugerirati da je ponekad umjetna inteligencija pametnija ili barem samosvjesnija od prosječnog medvjeda (iako, svaka čast medvjedima, oni obično dobro prolaze u testu ogledala, često dobivši naviknuti na njihov odraz u lokvama vode).

Ispravak, možda AI može biti samosvjesniji od velikih pandi i morskih lavova, ali nemojte to reći životinjama, mogle bi doći u iskušenje da razbiju ili udare AI sustave. Ne želimo to, zar ne?