Etika umjetne inteligencije i hvaljena AI Uncanny Valley, koja također izaziva samovozeće automobile zasnovane na AI-u

Ponekad postoje pomalo čudne stvari koje privlače vašu pozornost i pokreću vaše intuitivne sokove da nešto nije u redu. Neobičnost nije očigledna, nimalo flagrantno u vašem licu. Možda čak nećete moći odmah odrediti u čemu je nesklad ili zašto vas poslovično paukovo čulo trne.

Možda se naslućuju suptilni izdajnički tragovi. Možda vam se dogodi da u svojoj utrobi shvatite da postoji nesklad. Pretpostavljam da biste mogli reći da postoji samo i najmanji trag podcijenjene jezivosti i da vaš osjetljivi ljudski radar hvata inače naizgled skrivene signale.

Dobrodošli u čudesnu dolinu.

Ako nikada niste čuli za jezovitu dolinu, temu relativno popularnu u području umjetne inteligencije, a posebno robotike, čeka vas malo poslastica jer ću to pomno raspravljati i analizirati ovdje.

Sveobuhvatni pojam može se primijeniti na mnoge stvari koje doživljavamo u životu, iako ključna načela i izvorna definicija uključuju AI sustave i robote. Prvo ćemo istražiti podrijetlo i početno značenje jezovite doline, a zatim ćemo nastaviti s proširenjem kako bismo vidjeli kako se čini da su fenomeni primjenjivi u većim kontekstima.

Mogao bih također dodati da ćemo razmotriti postoji li ta neobična dolina uopće.

Vidite, neki skeptici i cinici tvrde da je cijela stvar pomalo smicalica i ne drži vodu. Budite pažljivi kada postavljate temu onima koji znaju. Neki će se radosno nasmiješiti i pljeskati po leđima da ste bliski upoznati s nevjerojatnom dolinom, dok će vam drugi oštro poučiti da je to pijanica svinja i da morate nakratko očistiti svoj um sapunom sapuna za mentalno čišćenje .

Dobra vijest ovdje je da možete odlučiti je li jeziva dolina stvarna ili ne, zajedno s time da li ima zasluge za svjesnu primjenu ili umjesto toga treba je bez ceremonije baciti na smetlište tehno ideja. U tom smislu ste na vozačkom mjestu.

Sve se to također usko odnosi na rastuće područje etičke umjetne inteligencije i rastuću spoznaju da društvo mora ozbiljno i trezveno obratiti pozornost na etiku umjetne inteligencije. Začas ćemo spojiti tu kravatu.

Najbolje mjesto za početak je izravno citiranje profesora koji je osmislio koncept neobične doline i otvoreno nazvao ovaj proklamirani fenomen. Godine 1970., profesor Masahiro Mori s Tokyo Institute of Technology objavio je prilično sitan članak u nešto manje poznatom časopisu pod nazivom energija (nije posebno žarište za umjetnu inteligenciju i robotiku po sebi), i rekao je ovo:

“Primijetio sam da, penjući se prema cilju da roboti izgledaju kao ljudi, naš afinitet prema njima raste sve dok ne dođemo u dolinu, koju ja nazivam jezovitom dolinom.”

Imajte na umu da je gornja fraza prikazana na engleskom, iako je izvorni rad bio na japanskom. Prevedenu verziju na engleski nadzirao je autor i kasnije je objavila u IEEE Spectrum 2012. i zaslužan Masahiru Moriju kao autoru. Rad možete sami pročitati jer je otvoreno i besplatno dostupan na internetu. To je izrazito brzo čitanje od otprilike desetak minuta i ne sadrži nikakvu tehničku tešku terminologiju.

S obzirom na to, zanimljivo je i pomalo nevjerojatno da je tako žustar članak, objavljen 1970., na kraju pokrenuo čitavu arenu istraživanja i pokrenuo bezbroj srodnih studija, projekata, istraživanja, a ponekad i buru kontroverzi o tome je li uvedeno koncept neobične doline uistinu postoji. Pretpostavljam da ovo pokazuje da intrigantne ideje koje ponekad mijenjaju gledište ne moraju biti jako zamršene ili pretrpane žargonom i uzvišenošću. Sažeta ideja može biti čak i moćnija nego što se čini na prvi pogled.

Vjerujem da će vas to potaknuti da pokušate potaknuti svoje nove ideje, čineći to sa spoznajom da slatko i jednostavno može biti jednako veličanstveno ili ponekad više nego složeno i složeno.

Skočimo natrag u čudesnu dolinu izvlačenja.

Nailazite na robotski sustav koji ima lice slično licu koje izgleda kao čovjek. Zamislite da je ovo robotsko lice osmišljeno kroz brojne iteracije. AI programeri koji sastavljaju glavu robota postepeno se trude da robotski dio lica izgleda sve više i više nalik stvarnom ljudskom licu.

Njihov prvi pokušaj bio je krajnje primitivan. Lice robota imalo je isti izgled koji ste vidjeli u znanstveno-fantastičnim filmovima da je potpuno metalno i prikazuje zupčanike i žice. Kada pogledate u napravu, odmah znate da je to robot. Nemaš pitanja o tome.

Sljedeći pokušaj AI programera uključivao je omatanje nekih plastičnih materijala oko metalnih komada. Iako ovo izgleda pomalo prijateljski, još uvijek odmah znate da je riječ o glavi robota i robotskom licu. Opet, lako je otkriti.

Ti programeri umjetne inteligencije odlučni su nastaviti s tim. Oni oblikuju plastiku i daju joj tonove kože. Dodaju značajke koje izgledaju vrlo slične ljudskom licu, kao što su madeži, kosa, mrlje i slično.

Na prvi pogled mogli biste se navesti da povjerujete da je ovo ljudsko lice. Ako je snimljena slika robotskog lica i od vas se tražilo da identificirate prikazuje li slika osobu nasuprot robotskom licu, mogli biste biti u zapreku da odmah možete reći što je to. S druge strane, da ste stajali pored uređaja, vjerojatno biste nakon pomnog pregleda mogli razaznati da se ne radi o čovjeku, već o robotskom izumu.

Stvar je u tome da prije nego što ste dobili priliku pregledati izbliza, bilo je nešto na licu što se nije u potpunosti poklopilo. Sigurno je izgledalo kao ljudsko lice. Ali nešto nije bilo u redu. Morali ste stalno pozorno buljiti iznova i iznova da biste stavili prst na ono što ne izgleda sasvim ispravno. Možda je pravo lice. Pa opet, možda i nije. Vaš se um vrti u skladu s tim.

Privid jezivosti ulazi u vaš um.

Niste imali isti privid jezivosti kada ste vidjeli dvije ranije verzije. Mogli ste bez stanke ili oklijevanja otkriti da je robot robot. Samo bi se dijete moglo prevariti da povjeruje da je bilo koja od tih verzija stvarna osoba.

Ova posljednja verzija je ipak bila drugačija. Još nije bilo usavršeno da izgleda kao ljudsko lice. Niti je bio toliko daleko od prave stvari da je bilo očito da se mora raditi o robotu. Došlo je do neke vrste zbrkanog tla.

Pretpostavimo da su programeri dodatno uložili svoje istraživačke napore i sve sredili tako da se robotsko lice gotovo ne razlikuje od ljudskog lica. Bez obzira koliko dugo buljite u stvar, niste sigurni je li čovjek ili nije čovjek. Kada vas informiraju da je to robotsko lice, zatečeni ste. Bože, napravili su sjajan posao da to izgleda stvarno.

Primijetite da ste dosad razmatrali samo robotske aspekte temeljene samo na izgledu.

Mogli bismo jednadžbi dodati kretanje. To vam dodaje dodatnu dimenziju da razlučite je li robot robot naspram čovjeka. Ne želim u ovoj raspravi ovo u potpunosti razmatrati kao višedimenzionalnu vrstu problema budući da razjašnjavanje ove teme čini zamršenijim (iako su višedimenzionalnosti neizbježno isprepletene). U svakom slučaju, zamislite da ne samo da ste vidjeli robotsko lice nego i da biste mogli gledati kako robot pomiče crte lica, kao što su usta, oči, nos, itd. Očito, to bi također moglo biti darivanje o tome je li ovo robot ili čovjek.

Jedan vitalni aspekt koji treba zadržati na čelu jezovite doline jest da izvorna koncepcija naglašava čin ljudske srodnosti. Fenomen koji se tvrdi je da se vaš afinitet povećava dok vidite robotska lica koja se postupno poboljšavaju, sve do točke u kojoj se pojavi neobična varijanta. Kaže se da u tom trenutku vaš osjećaj afiniteta dramatično opada, spuštajući se u ponor ili dolinu afiniteta.

Za određenu verziju zbog koje ste posumnjali da nešto nije u redu, vaš je afinitet navodno radikalno pao. Nadalje, prema teoriji, vaš afinitet može ponovno porasti kada naiđete na napredniju verziju koja je gotovo identična stvarnom ljudskom obliku.

Evo više o tome što je autor izjavio o našoj normalnoj sklonosti da pretpostavimo da se aspekti života glatko povećavaju: „Matematički izraz monotono rastuća funkcija opisuje odnos u kojem se funkcija y = ƒ(x) kontinuirano raste s varijablom x. Na primjer, kao napor x raste, prihod y povećava, ili kada se pritisne papučica gasa, automobil se kreće brže. Ova vrsta odnosa je sveprisutna i vrlo lako razumljiva. Zapravo, budući da takve monotono rastuće funkcije pokrivaju većinu pojava svakodnevnog života, ljudi mogu pasti u iluziju da predstavljaju sve odnose. Ovom lažnom dojmu svjedoči i činjenica da se mnogi ljudi bore kroz život upornim guranjem ne shvaćajući učinkovitost povlačenja. Zato su ljudi obično zbunjeni kada se suoče s nekim fenomenom koji ova funkcija ne može predstavljati.” Ovo se citira prema IEEE Spectrum prevedeni rad.

Ova gotovo univerzalna pretpostavka o stalnom porastu može se poništiti kada naiđemo na nešto pogrešno. Jezivost i sumnja će uzrokovati relativno nagli i dramatičan pad afiniteta, kaže teorija, kao što je robotska ruka koju ste se odlučili protresti, a niste mogli osjetiti karakteristike kostiju ljudske ruke: „Kada se to dogodi, gubimo razum afiniteta, a ruka postaje neobična. U matematičkom smislu, to se može predstaviti negativnom vrijednošću.”

Ako prihvatite pretpostavku da postoji taj fenomen nevjerojatne doline, siguran sam da se pitate što vam koristi od toga da znate da čudesna dolina očito postoji.

To je klasik svih vremena "pa što?" test praktičnosti.

Ispostavilo se da je mnogo ljudi smislilo mnogo tumačenja onoga što bismo trebali ili možemo učiniti u vezi s nevjerojatnom dolinom. Ima puno mišljenja. Uskoro ću se pozabaviti nekima od toga.

U međuvremenu, evo što je Masahiro Mori ponudio: “Nadamo se da ćemo dizajnirati i izraditi robote i protetske ruke koje neće pasti u jezovitu dolinu. Stoga, zbog rizika svojstvenog pokušaju povećanja stupnja ljudske sličnosti u skali drugog vrha, preporučujem da dizajneri umjesto toga uzmu prvi vrh kao svoj cilj, što rezultira umjerenim stupnjem ljudske sličnosti i znatnim osjećajem afiniteta . Zapravo, predviđam da je moguće stvoriti sigurnu razinu afiniteta namjernim provođenjem neljudskog dizajna. Molim dizajnere da razmisle o tome.”

Brzi sažetak s moje strane dvanaest praktičnih pravila o tome što učiniti u vezi s jezovitom dolinom ide ovako posebno za AI programere:

1) Budite svjesni neobične doline i budite na nogama u skladu s tim

2) Vjerojatno želite postići ljudski afinitet za svoju umjetnu inteligenciju što je više moguće

3) Budite spremni na gubitak ljudskog afiniteta ako vaš AI padne u jezovitu dolinu

4) Nastojte izbjeći jezovitu dolinu tako što ćete osmisliti svoju umjetnu inteligenciju

5) Respektabilno je imati cilj koji je kratak od jezovite doline

6) Podignite se do ruba neobične doline, ali nemojte pasti preko litice

7) Nemojte biti opsjednuti odlaskom izvan neobične doline

8) Postoji šansa da ipak možete preskočiti jezovitu dolinu

9) Nemojte biti zaokupljeni skokom jer ionako možete pasti u dolinu

10) Maksimalni ljudski afinitet bi se doduše postigao prolaskom kroz neobičnu dolinu

11) Ipak, postoji adekvatan i prikladan afinitet koji se nalazi prije neobične doline

12) Neprekidno budite svjesni neobične doline i ne dopustite da vam ona izmakne iz uma

Svih je ovih desetak općih propisa koji se mogu smatrati ključnim ili uporišnim točkama znanja o jezovitoj dolini. Odmah ću priznati da postoje druge točke koje nisu navedene u tih malobrojnih desetaka koje bi se mogle smatrati jednako važnima. Također ću spremno priznati da će sigurno postojati neslaganje za svaku od identificiranih točaka, a o svakoj navedenoj točki može doći do dugotrajne burne rasprave.

Štoviše, neki bi rekli da je dvanaest točaka potpuno smeće jer se za početak temelje na neistini. Ne postoji nešto kao što je neobična dolina, tvrdili bi. Sve je to samo smicalica i izmišljena izmišljotina koja se samo i nažalost poziva na slabe umove (jao, to iskreno boli!). Svaka pozornost na jezovitu dolinu je izgubljen dašak zraka i netko bi trebao doći i staviti oštar drveni teoretski kolac u srž stvari (neki istraživači su to pokušali učiniti).

Radi rasprave, krenimo s tijekom i pretpostavimo da postoji nevjerojatna dolina i da se općenito poklapa s onim što sam do sada naznačio. Oni koji se ne slažu s konceptualizacijom jezovite doline dobrodošli su da se izvuku iz zone ili nastave čitati stisnutih zuba i njihova intelektualna ljutnja koja kuha i ključa (oprostite zbog toga).

Evo kako se etička AI i fokus osmišljavanja i primjene etičke umjetne inteligencije pojavljuju. Usput, za moja stalna i dubinska istraživanja etike umjetne inteligencije, pogledajte moju raspravu na ova poveznica ovdje i ova poveznica ovdje, Samo da spomenemo nekoliko.

Neobična dolina je izrazito ljubavna afera za one koji se bave etičkom umjetnom inteligencijom.

Prvo, neka potrebna pozadina. Jedna od etičkih nedoumica povezanih s umjetnom inteligencijom koja najviše diže kosu je ta da se ljudi mogu zavarati da vjeruju da je AI sustav razuman. Imajte na umu da ne postoji nijedna umjetna inteligencija današnjice koja bi bila ni izbliza osjećajna. To se jednostavno ne događa u ovom trenutku. Moja tobože "drska" tvrdnja iznosi se unatoč onim neprestanim i blistavim naslovima koji deklariraju ovu umjetnu inteligenciju ili da je AI ili razuman ili dovoljno blizak da se smatra takvim. Malarkey. Nismo u stanju AI osjetljivosti.

Ne znamo kako do tamo. Ne znamo hoće li se to dogoditi. Osjet umjetne inteligencije vrijedan je san i težnja, iako nemojte preskočiti i misliti da smo na pragu postizanja.

Naravno, mnogi gorljivo upozoravaju da ćemo se suočiti s egzistencijalnim rizikom, ako nekako uspijemo izvući osjećaj umjetne inteligencije, bilo da to učinimo namjerno ili čisto slučajno. Na taj način razmišljanja, možda traženje AI osjećaja nije baš toliko vrijedno truda. Rizik je da bi ova razumna umjetna inteligencija mogla utvrditi da ljudi nisu vrijedni imati u blizini. Mogli bismo biti zgnječeni kao buba. Ili postati rob AI. To bi se moglo dogoditi ako AI to otvoreno odluči, ili bi umjetna inteligencija mogla završiti kao naš vlastiti stroj sudnjeg dana koji nas uništava svojom vlastitom nesposobnošću. Za moje izvješće o tim zabrinjavajućim ishodima AI osjećaja ili singularnosti, vidi link ovdje.

Ključna zabrinutost etičke umjetne inteligencije je da programeri AI-a i oni koji se bave umjetnom inteligencijom ponekad natjeraju ljude da misle da je AI razuman. Način na koji se AI pokazuje, kao što je robotska formulacija ili njegova razgovorna interaktivnost, može podmuklo potaknuti ljude na pretpostavku da je AI razuman. To vas zauzvrat vodi potencijalno lošom stazom jaglaca.

Ako upadnete u mentalnu zamku razmišljanja da je AI sustav razuman, vjerojatno ćete se osloniti na njega da čini stvari koje bi živa bića radila. Ali još uvijek nema zdravog razuma o kvaliteti nalik ljudskom ugrađenom u bilo koji od današnjih AI. Umjetna inteligencija koju trenutno doživljavamo iznimno je krhka i plitka kada su u pitanju ljudski kapaciteti. Mogli biste se uvući u neke neugodne i opasne vode vjerujući da je AI sustav razuman.

Kako je to povezano s jezovitom dolinom?

Evo dogovora.

Podsjetimo, čini se da nam nevjerojatna dolina govori da će ljudski afinitet postupno rasti kako se sustav umjetne inteligencije ili robot bude sve više približavao ljudskoj formulaciji. U trenutku kada se AI sustav bliži točki da je prilično blizu, ali još uvijek, ne baš tamo, imamo jeziv osjećaj da nešto nije u redu. Do tada smo znali da AI nije čovjek. Sad nismo sigurni. Naš ljudski afinitet opada. Tek kada AI ili robot postanu potpuno uvjerljivi u pogledu ljudskih sposobnosti, ponovno dobivamo svoj privid afiniteta prema uređaju.

Vjerojatno bi programeri umjetne inteligencije koji su prihvatili ovo srce namjerno nastoje zadržati svoju umjetnu inteligenciju izvan jezovite doline, s ciljem da se zaustavi u smislu značajki AI-a, neposredno prije pada u jezoviti ponor (podsjetimo, to je također naglasio Masahiro Mori). Programeri bi to očito učinili tako što bi se uvjerili da još uvijek postoje obilni izdajnički tragovi kako bi bilo prilično jasno da je AI manje od razumnog AI i ergo ne čovjek ili jednako tako.

Etičari umjetne inteligencije općenito bi pozdravili taj iskreni trud.

Obrazloženje je jednostavno. Oni tako informirani i prihvaćajući AI programeri pokušavaju osigurati da sustav umjetne inteligencije ne navede ljude u zabludu da AI lažno pripisuju objekte nalik ljudima. To je sigurno dobra vijest. Programeri će namjerno izraditi AI kako bi spriječili zaron u jezovitu dolinu. Ljudi će lako shvatiti da AI nije razuman.

Pokušati navesti programere umjetne inteligencije da prihvate takav pristup nije lako. Doista, to može biti kontraintuitivno s njihovim uobičajenim instinktima i pokretačkim ambicijama.

Postoje mnoge tvrdnje da su programeri umjetne inteligencije i tehničari, općenito, zaokupljeni ciljevima. Oni vide cilj i često će ga slijepo slijediti s velikim guštom. Nema vremena za zaustavljanje i miris ruža. Idemo na utrke, idemo. U području umjetne inteligencije, normativni cilj bi bio idealizirana umjetna inteligencija koja se ne razlikuje od ljudi po tome što bi AI mogla biti inteligentno jednaka u paritetu. Ali još nismo tamo. Kao takva, nevjerojatna dolina pruža sekundarni cilj, slijetanje ispred inače strašne jezovite doline, i postaje cilj koji je ipak prihvatljiv. Naravno, nije zlatni nagrađeni prsten, ali ideja je da je ova "sporedna" nagrada u redu, hvala vam puno i možete biti ponosni na to.

Izmijenili smo razornu najvišu ambiciju traženja ciljeva i upregnuli je u razumnu osnovu koja zvuči logično da učinimo pravu stvar, takoreći.

Ura!

Osvojite pobjedu za etiku umjetne inteligencije.

Ali pričekajte sekundu, upozorenje o spojleru, postoji još nešto što moramo jednako uzeti u obzir.

Sada kada ti pametni programeri umjetne inteligencije znaju za nevjerovatnu dolinu, mogli bi svoju pamet i tehničku snagu usmjeriti prema namjernom skoku preko ponora, a ipak to učiniti s prividom obmane na umu. Neka AI izgleda i izgleda kao da je u potpunosti nalik čovjeku, iako programeri znaju da to nije istina.

Lagano razmišljanje ide ovako. Nemojte dopustiti da vaš AI sustav nagne svoj šešir i natjera ljude da uhvate tu neuhvatljivu podvodnu struju jezivosti. Isključite aspekte koji bi mogli dati bilo kakav nagovještaj ili naznaku da AI nije ljudskih sposobnosti. Učinite to dok potajno shvaćate i neoprostivo znajući da AI nema ljudske sposobnosti i da se radi o skrivanju te istine od onih koji su u interakciji s umjetnom inteligencijom ili su o njoj ovisni.

Kakvi đavolski planovi.

Ironično, nevjerojatna dolina mogla bi biti svojevrsni poziv za buđenje za AI programere da, ako žele stvarno prevariti ljude, moraju biti dovoljno pametni da pobjegnu iz ponora. Oni to ne čine tako što postižu potpunu umjetnu inteligenciju, već podižu dim i ogledala kako bi umjetna inteligencija izgledala varljivo kao da je ljudska. Da programeri umjetne inteligencije nisu shvatili da ova neobična dolina postoji, uglavnom bi upali u nju. To je dobro za čovječanstvo jer bi ljudi ergo izgubili svoj afinitet prema AI-u u smislu da se ne oslanjaju pretjerano na današnju kvalitetu AI-a.

Nažalost, znajući da zamka postoji, programeri umjetne inteligencije koji se žele provući oko nje pronaći će pogubno pametne načine da to učine.

Postignite pogodak protiv propisa etičke umjetne inteligencije.

Vidite li kako ovo stvara odnos ljubavi i mržnje za etičare umjetne inteligencije o nevjerojatnoj dolini?

Proklet bio ako hoćeš, proklet ako ne.

Shvaćam da je ovo bilo prilično visoko ispitivanje neobične doline i možda žudite za nekim svakodnevnim primjerima. Postoji poseban i sigurno popularan niz primjera koji su mi pri srcu. Vidite, u mom svojstvu stručnjaka za umjetnu inteligenciju, uključujući etičke i pravne posljedice, od mene se često traži da identificiram realistične primjere koji prikazuju dileme etike umjetne inteligencije kako bi se donekle teoretska priroda teme mogla lakše shvatiti. Jedno od najzanimljivijih područja koje zorno predstavlja ovu etičku AI nedoumicu je pojava pravih samovozećih automobila temeljenih na umjetnoj inteligenciji. Ovo će poslužiti kao zgodan slučaj upotrebe ili primjer za široku raspravu o toj temi.

Evo onda važnog pitanja o kojem vrijedi razmisliti: Rasvjetljuje li pojava pravih samovozećih automobila temeljenih na umjetnoj inteligenciji išta o nevjerojatnoj dolini, i ako jest, što nas to informira?

Dopustite mi trenutak da raspakiram pitanje.

Prvo, imajte na umu da nema ljudskog vozača koji je uključen u istinski samovozeći automobil. Imajte na umu da se pravi samovozeći automobili voze putem AI sustava vožnje. Ne postoji potreba za ljudskim vozačem za volanom, niti je predviđeno da čovjek upravlja vozilom. Za moju opsežnu i stalnu pokrivenost autonomnih vozila (AV) i posebno samovozećih automobila, pogledajte link ovdje.

Želio bih dodatno pojasniti što se misli kada govorim o pravim samovozećim automobilima.

Razumijevanje razina samovozećih automobila

Kao pojašnjenje, istinski samovozeći automobili su oni koji AI automobilom upravljaju potpuno samostalno, a tijekom zadatka vožnje nema nikakve ljudske pomoći.

Ova vozila bez vozača smatraju se razinom 4 i 5 (pogledajte moje objašnjenje na ova poveznica ovdje), dok se automobil za koji je potreban ljudski vozač da sudjeluje u vožnji obično se smatra na razini 2 ili razine 3. Automobili koji dijele zadatak vožnje opisani su kao poluautonomni i obično sadrže razne automatizirani dodaci koji se nazivaju ADAS (Napredni sustavi za pomoć vozaču).

Još nema pravog automobila za samostalnu vožnju na razini 5, za koji još ne znamo hoće li to biti moguće i koliko će vremena trebati da se tamo stigne.

U međuvremenu, napori razine 4 pokušavaju postići određenu vuču prolazeći vrlo uska i selektivna ispitivanja na javnim cestama, iako postoji kontroverza oko toga treba li ovo ispitivanje biti dopušteno samo po sebi (svi smo zamorci života ili smrti u eksperimentu koji se održavaju na našim autocestama i usputnim cestama, neki se tvrde, pogledajte moje pokriće na ova poveznica ovdje).

Budući da za poluautonomne automobile potreban je ljudski vozač, usvajanje tih vrsta automobila neće se znatno razlikovati od vožnje konvencionalnih vozila, tako da o ovoj temi nema mnogo novog što bi se moglo pokriti (iako, kao što ćete vidjeti u trenu su sljedeće točke općenito primjenjive).

Za poluautonomne automobile važno je da javnost treba upozoriti na uznemirujući aspekt koji se pojavljuje u posljednje vrijeme, naime da usprkos onim ljudskim vozačima koji objavljuju videozapise o sebi kako zaspaju za volanom automobila razine 2 ili 3 , svi trebamo izbjegavati zabludu da vjerujemo kako vozač može oduzeti njihovu pažnju vozačkom zadatku tijekom vožnje poluautonomnog automobila.

Vi ste odgovorna strana za upravljačke radnje vozila, bez obzira na to koliko se automatizacija može ubaciti u razinu 2 ili razinu 3.

Samovozeći automobili i Neobična dolina

Za prava vozila sa samostalnom vožnjom razine 4 i 5, u vozačkoj zadaći neće sudjelovati ljudski vozač.

Svi putnici bit će putnici.

AI vozi vožnju.

Jedan od aspekata o kojem treba odmah razgovarati podrazumijeva činjenicu da AI uključen u današnje sustave vožnje AI nije osjetljiv. Drugim riječima, AI je sve skupa računalno zasnovanog programiranja i algoritama i zasigurno nije u stanju rasuđivati ​​na isti način na koji to mogu ljudi.

Zašto ovaj dodatni naglasak na tome da AI nije svjestan?

Budući da želim naglasiti da, raspravljajući o ulozi sustava upravljanja umjetnom inteligencijom, ne pripisujem ljudske osobine umjetnoj inteligenciji. Imajte na umu da danas postoji stalna i opasna tendencija antropomorfizacije AI. U osnovi, ljudi današnjoj umjetnoj inteligenciji dodjeljuju ljudsku osjetljivost, unatoč nepobitnoj i neupitnoj činjenici da još uvijek ne postoji takva umjetna inteligencija.

S tim pojašnjenjem možete predvidjeti da sustav upravljanja umjetnom inteligencijom neće nekako "znati" o aspektima vožnje. Vožnja i sve što to uključuje trebat će programirati kao dio hardvera i softvera samovozećeg automobila.

Zaronimo u bezbroj aspekata koji se mogu igrati na ovu temu.

Prvo, važno je shvatiti da nisu svi samovozeći automobili s umjetnom inteligencijom isti. Svaki proizvođač automobila i samovozeća tehnološka tvrtka zauzima svoj pristup osmišljavanju samovozećih automobila. Kao takav, teško je dati opširne izjave o tome što će AI sustavi za vožnju učiniti ili ne.

Nadalje, kad god konstatiraju da sustav upravljanja AI -om ne čini neku posebnu stvar, kasnije to mogu preuzeti razvojni programeri koji zapravo programiraju računalo da učini upravo tu stvar. Korak po korak, sustavi vožnje umjetne inteligencije postupno se poboljšavaju i proširuju. Današnje ograničenje danas možda više neće postojati u budućoj iteraciji ili verziji sustava.

Vjerujem da to pruža dovoljno litanija upozorenja da potkrijepi ono o čemu ću govoriti.

Sada smo spremni za duboko zaroniti u samovozeće automobile i etička pitanja umjetne inteligencije koja za sobom povlače jezivu dolinu.

Postoje četiri aspekta koji se odnose na ovo pitanje koji će biti ovdje pokriven:

1. Cjelokupni izgled samovozećih automobila

2. Pitanje gdje "gledaju" samovozeći automobili

3. AI pogonske akcije samovozećih automobila

4. Roboti koji voze kao sredstvo za postizanje samovozećih automobila

Dodatni aspekti su također održivo obuhvaćeni, ali zbog prostornih ograničenja, ove četiri teme bit će dovoljne da osvijetle orijentaciju nevjerojatne doline u odnosu na samovozeće automobile temeljene na umjetnoj inteligenciji.

1. Cjelokupni izgled samovozećih automobila

Kladim se da ste vidjeli slike ili video zapise današnjih proba samovozećih automobila. Kao takvi, mogli ste primijetiti da su većina vozila automobili konvencionalnog izgleda koji su opremljeni dodatnom specijaliziranom opremom. Na primjer, može postojati krovni stalak koji sadrži niz elektroničkih senzora. Senzori ponekad uključuju video kamere, radarske jedinice, LIDAR uređaje, ultrazvučne senzore i slično.

Futuristički dizajn obično sugerira da bismo mogli odstupiti od automobila konvencionalnog izgleda i umjesto toga redizajnirati automobile kako u unutrašnjosti tako iu eksterijeru kako bi bili autonomna vozila glatkijeg izgleda. Trenutno je opće mišljenje da je jednostavnije koristiti konvencionalne automobile i ne trošiti energiju pokušavajući rastegnuti pothvat istovremeno petljajući s automobilima nekonvencionalnog izgleda (postoje neke iznimke od ovog općeg stajališta, pogledajte moje izvješće na link ovdje).

Bit je upravo u tome da ako se vozite cestom i naiđete na obližnji samovozeći automobil, gotovo uvijek možete odmah uočiti da se vjerojatno radi o samovozećem automobilu tako što ćete samo primijetiti mrvicu senzora postavljenih na autonomno vozilo. Ovo je brzi vizualni dar. Naravno, ne znate zasigurno da se radi o samostalnoj vožnji jer su u ovom trenutku kontrole vožnje obično još uvijek netaknute, a za volanom može biti i pomoćni vozač.

Na jedan način razmišljanja, možete sugerirati da je posebno zgodno da se samovozeći automobili fizički ističu i da ih vozači ljudi u obližnjim automobilima kojima upravljaju ljudi lako uočavaju, a također i pješaci u blizini. Spoznaja da u blizini luta samovozeći automobil može biti zgodan trag da budete na oprezu, što će vas potaknuti da budete budni i svjesni da AI vozi ili bi mogao upravljati vozilom.

Pretpostavimo da samovozeći automobili izgledaju identično konvencionalnom automobilu kojim upravljaju ljudi. To je realno izvedivo na najmanje dva načina. Prvo, senzori bi potencijalno mogli biti skriveni ili oblikovani tako da ne budu tako očiti za povremeni vizualni pregled. Drugo, moglo bi se dogoditi da se svi automobili, uključujući konvencionalne automobile koje upravljaju ljudi, postupno opremaju sličnim senzorima, čak i ako će vozilo ipak ostati kao automobil koji pretežno upravljaju ljudi. Pogledajte moje daljnje izvješće na ova poveznica ovdje.

Ako pažljivo razmislite o tome da li samovozeći automobili mogu ili bi trebali biti po izgledu identični konvencionalnim automobilima koje upravljaju ljudi, mogli biste doći na pomisao da se u ovom gulašu možda krije čudna dolina.

Vidite, automobili koji očito izgledaju kao automobili koji se sami voze mogli bi biti tipizirani kao da su na raskrsnici koja je samo malo udaljena od jezovite doline. U osnovi, "znate" da je to robot ili robotska vrsta sustava. To je presuda na koju možete gotovo odmah skočiti.

Kada samovozeći automobili izgledaju identično automobilima koje upravljaju ljudi, to možda sugerira da su autonomna vozila preskočila nevjerovatnu dolinu što se tiče izgleda poput robota. Postoji li ipak sredina između ta dva fizička izgleda koja nas dovodi u jezovitu dolinu?

Možda primijetite samovozeći automobil koji dolazi niz ulicu i nekako vam se čini kao da je vjerojatno samovozeći automobil, s druge strane, izgled nije ni striktno autonoman niti izgleda strogo ljudski. Mogli biste tvrditi da je samovozeći automobil sada u jezivom ili uznemirujućem stanju.

Samovozeći se automobil naizgled uronio u jezovitu dolinu.

S obzirom na to, ne bi se svi složili s tom kategorizacijom. Neki bi tvrdili da fizički izgled nema nikakve veze s jezovitom dolinom. Neki naravno također tvrde da ne postoji ništa realno poznato kao jeziva dolina.

Kao što je ranije spomenuto, možete sami donijeti odluku o tome.

2. Pitanje kamo gledaju samovozeći automobili

Velika zabrinutost koju mnogi imaju u vezi s samovozećim automobilima je da im obično nedostaje bilo kakav ljudski vozač na vozačevom sjedalu i stoga je teško shvatiti gdje "vozač" gleda dok vozi automobil.

Obično bacite pogled na ljudske vozače kako biste špijunirali gdje gledaju. Na primjer, možda ste pješak na pješačkom prijelazu, a automobil se približava prijelazu. Pomno gledate u osobu koja sjedi na vozačevom mjestu i pokušavate razaznati kamo joj je okrenuta glava i kamo gledaju oči. Ako vjerujete da vas je ljudski vozač vidio, možda će vam biti ugodnije preći ulicu. Nasuprot tome, ako se činilo da vas ljudski vozač nije vidio, s pravom ste zabrinuti zbog prelaska.

U nekim gradovima postoji svojevrsni gambit mačke i miša o tim aspektima. Posebna kulturna norma u određenom gradu mogla bi biti da ako uspostavite kontakt očima s vozačem, vozač “pobjeđuje” i oni imaju prividno pravo nastaviti, bez obzira na zakonitost situacije u vožnji. Drugi gradovi bi mogli biti potpuno suprotni, naime da je kulturna norma da kada se uspostavi kontakt očima, pješak "pobjeđuje" i da se ljudski vozač treba povinovati postupcima pješaka.

Čini se da smo taj običaj usvojili tijekom relativno dugog vremena kada su automobili bili usred naših gradova i zajednica. Problem s pojavom samovozećih automobila je taj što na vozačkom sjedalu nema ljudskog vozača, pa je stoga bilo koji pješak ili obližnji ljudski vozač koji inače koristi glavu i oči vozača automobila kao kulturni pokazatelj namjere vožnje sada Bez sreće.

Proizvođači automobila i programeri samovozećih automobila itekako su svjesni ovog problema koji se pojavljuje. Jedno predloženo rješenje sastoji se od toga da samovozeći automobil treperi prednjim svjetlima autonomnog vozila ili eventualno trubi. Druga je predodžba da bi samovozeći automobil mogao imati varijantu zvučnika i reći onima u blizini koje su "namjere" AI sustava za vožnju. Svaka od tih ideja ima značajne nedostatke.

Ipak, drugačiji prijedlog podrazumijeva da učinite nešto za što biste isprva mogli povjerovati da je smiješno. Prijedlog se sastoji od postavljanja kugli nalik na očne jabučice na vanjsku stranu autonomnog vozila. Ove kugle bi poprilično izgledale kao ljudske oči u prividu da se mogu okretati naprijed-natrag, dajući vam neposrednu naznaku koja sugerira da vas je AI "vidjela" (to biste protumačili po očnim jabučicama koje gledaju u vašem određenom smjeru). Analizirao sam ovaj pristup na link ovdje.

Kakva bi bila vaša reakcija da vidite samovozeći automobil kako se spušta niz cestu i imate ove ogromne čudne kugle koje se pojavljuju na haubi ili krovu?

Pretpostavljam da biste mogli pomisliti da je jezivo, možda jezivo.

Neki bi sugerirali da jezivost proizlazi iz toga što se opremljen samovozeći automobil nalazi u nevjerojatnoj dolini. Drugi bi žestoko tvrdili da to nema nikakve veze s jezovitom dolinom. Od tih takvih stručnjaka, neki bi rekli da postoji jezivost koja može biti jeziva, a da ne mora biti ukorijenjena u jezovitu dolinu (tj. neobična dolina naizgled uvijek proizvodi jezivost, ali nije sve jezivo proizvedeno samo preko jezive doline). Drugi kut je da bi kugle vjerojatno mogle biti dizajnirane tako da izgledaju manje očne jabučice i da izgledaju više robotski, ili da ćemo svi neizbježno prihvatiti pojavu ovih kugli i početna zapanjujuća reakcija će se smiriti.

3. Akcije AI vožnje samovozećih automobila

Mnoga od današnjih pokušaja samovozećih automobila pokazala su da se postojeći sustavi za vožnju s umjetnom inteligencijom obično programiraju za vožnju na prilično mlačan i donekle strogo poštivajući zakonski način. Sustav vožnje AI obično dovodi samovozeći automobil do potpunog zaustavljanja na znakovima Stop. Sustav AI vožnje ne odvažno trči na raskrižjima kada će semafor uskoro zasvijetliti. Ove svojeglave prakse vožnje su oblast ljudskih vozača.

Na neki način, gotovo biste mogli pretpostaviti da je samovozeći automobil samovozeći po stilu vožnje koji izlaže. Čak i ako se autonomno vozilo vizualno čini kao konvencionalni automobil kojim upravljaju ljudi, mogli biste promatrati radnje vožnje i možda logično zaključiti da ga vjerojatno pokreće AI sustav.

Neki vjeruju da ćemo morati napraviti AI sustave za vožnju kako bi bili sličniji ludorijama ljudskih vozača kako bi se učinkovito uklopili u normativne pristupe vožnji. Pretpostavljam da biste ovo mogli protumačiti kao gašenje vatre vatrom.

Ima li to smisla raditi?

Budite svjesni da se otvoreni skeptici i kritičari gade te ideje. Oni bi žestoko tvrdili da želimo da AI sustavi za vožnju voze ispravno i oprezno. Dodavanje potencijalno milijuna samovozećih automobila na kolnike koji su programirani da budu poput zalutalih ljudskih vozača činilo bi se kolosalnom noćnom morom. Raspravljao sam o ovom kontroverznom prijedlogu na link ovdje.

Preokrenimo dilemu koristeći nevjerovatnu dolinu.

Kada je AI sustav vožnje strogo legalan po svojim radnjama vožnje, to je možda izdajnički znak da je vjerojatno riječ o robotskom sustavu (bez obzira na to što ljudski vozači to rade, iako se u današnjem svijetu čini da su rijetki). Ako bi sustavi za vožnju s umjetnom inteligencijom trebali voziti čudno kao i ljudski vozači, hoće li ovo skakati preko jezovite doline ili pasti u jezovitu dolinu?

Razmislite o tome.

4. Roboti koji voze kao sredstvo za postizanje samovozećih automobila

Ova posljednja stavka za pokriće je najnevjerojatnija od ove četiri.

Možda niste svjesni da neki programeri umjetne inteligencije pokušavaju izraditi robote koji bi vozili automobile. Robot bi izgledao poput čovjeka u različitim aspektima, s robotskim nogama i robotskim rukama kao udovima. Kada želite da bilo koji konvencionalni automobil kojim upravljaju ljudi bude samovozeći automobil, samo stavite ovog specijaliziranog AI robota za vožnju na vozačevo sjedalo vašeg automobila. Vidite moju analizu ovog pojma na link ovdje.

Zašto bismo htjeli voziti robote?

Ljepota takvog robota je u tome što bi svi današnji automobili kojima upravljaju ljudi mogli na neki način interpretacije postati samovozeći automobili, gotovo preko noći. Vi samo kupite, iznajmite ili nekako nabavite sebi robota za vožnju. Stavljate robota na svoje vozačevo sjedalo kada idete na putovanje. Robot vas vozi do vašeg odredišta. Ako se želite prebaciti na ljudsku vožnju, izvadite robota iz vozila, možda ga spremite u prtljažnik za kasniju upotrebu.

Danas u Sjedinjenim Državama postoji oko 250 milijuna konvencionalnih automobila. Neki vjeruju da će oni na kraju biti odbačeni kako se samovozeći automobili pojave. Umjesto da odbacimo te konvencionalne automobile, možda bismo ih mogli pokušati dodatno opremiti u samovozeće automobile, iako je to vjerojatno prilično skupa ideja. Naizgled razboritiji pristup bio bi učiniti dostupnim robote za vožnju.

Kad biste vidjeli automobil konvencionalnog izgleda kako dolazi niz vašu ulicu u susjedstvu i imao robota za volanom, kakva bi bila vaša reakcija?

Vjerojatno jezivost.

Jedna je doduše argumentirana tvrdnja da je ova jeziva posljedica robota koji vozi konvencionalni automobil koji uranja u poznatu ili zloglasnu jezovitu dolinu.

Zaključak

Iz perspektive etičke umjetne inteligencije, neobična dolina predstavlja intrigantnu zagonetku.

Postoje neki u AI koji u potpunosti vjeruju u jezovitu dolinu, a neki ne vjeruju. No, vjerujete li u čudesnu dolinu ili ne vjerujete, ipak se sama tema vrti okolo. Ne možete sakriti glavu i pretvarati se da konstrukt sam po sebi ne postoji. Konstrukt kao ideja živi i na neki je privid viralno moćan. Mrzite ili volite, prokleta ili možda uzvišena tema i dalje postoji.

Prema mom ranijem diskursu o zaslugama jezovite doline iz kuta etike umjetne inteligencije, u njoj postoji dvobojni odnos ljubavi i mržnje. Trebaju li oni u etičkom području umjetne inteligencije prigrliti jezovitu dolinu, ili ukratko odbaciti jezivu dolinu, ili ostati donekle neutralni po pitanju istinitosti i umjesto toga se usredotočiti na utjecaj koji nastaje zbog trajnih različitih uvjerenja o njoj.

Ovaj izazov dovodi do istaknutog ekonomista Adama Smitha kako je jednom rekao (parafrazirajući) da na putu od Grada skepticizma morate proći kroz Dolinu dvosmislenosti.