Etika umjetne inteligencije pita ima li smisla pitati AI je li sama umjetna inteligencija osjećajna

Ako vas pitam jeste li osjećajni, nedvojbeno ćete ustvrditi da jeste.

Dopustite mi da još jednom provjerim tu pretpostavku.

Jeste li doista osjećajni?

Možda se samo pitanje čini malo glupim. Velike su šanse da bismo u svakodnevnom životu očekivali da druga ljudska bića priznaju da su osjećajna. Ovo bi mogao biti duhovit upit koji bi trebao implicirati da druga osoba možda ne obraća pozornost ili je ispala iz vagona osjećaja i mentalno otišla na ručak na trenutak, takoreći.

Zamislite da priđete stijeni koja tiho i nenametljivo sjedi na hrpi kamenja i nakon što se približite dovoljno da pitate, odete naprijed i raspitate se je li stijena osjećajna. Pretpostavljajući da je stijena samo stijena, uvelike predviđamo da će na nekadašnje, ali naizgled čudno pitanje biti odgovoreno prilično kamenom šutnjom (igra riječi!). Tišina se ukratko tumači kao znak da stijena nije osjećajna.

Zašto spominjem te razne nijanse o traženju da se utvrdi je li netko ili nešto osjećajno?

Jer to je prilično velika stvar za umjetnu inteligenciju (AI) i društvo sve skupa, služeći kao monumentalna tema koja je privukla ogroman interes i strahovito blještave medijske naslove nedavnog značaja. Postoje značajna pitanja AI etike koja se vrte oko cijele zagonetke AI je osjećajna. Za moje kontinuirano i opsežno pokrivanje AI etike i Etičke AI, pogledajte link ovdje i link ovdje, Samo da spomenemo nekoliko.

Imate mnogo labavih razloga da držite jedno oko otvorenim i promatrate te tvrdnje da je umjetna inteligencija konačno skrenula s nogu i ušla u široko cijenjenu kategoriju osjećaja. Neprestano smo opterećeni novinskim izvješćima koja tvrde da je AI očito na rubu stjecanja osjećaja. Povrh toga, postoji ogromna tvrdnja da AI osjetljivog kalibra predstavlja globalni kataklizmički egzistencijalni rizik.

Ima smisla držati svoje paukovo osjetilo spremnim u slučaju da otkrije trnce AI osjećaja u blizini.

U enigmu AI i osjećaja dolazi nedavna situacija Googleovog inženjera koji je hrabro objavio da je određeni AI sustav postao osjećajan. Sustav umjetne inteligencije poznat kao LaMDA (skraćenica od Language Model for Dialogue Applications) uspio je donekle voditi pisani dijalog s inženjerom do stupnja u kojem je ovaj čovjek zaključio da je AI osjetljiva. Unatoč svemu što ste možda čuli o ovoj kolosalnoj tvrdnji, znajte da umjetna inteligencija nije bila osjećajna (niti je čak ni blizu).

Danas ne postoji AI koji je razuman. Mi ovo nemamo. Ne znamo hoće li razumna AI biti moguća. Nitko ne može prikladno predvidjeti hoćemo li postići osjećajnu umjetnu inteligenciju, niti hoće li osjetilna umjetna inteligencija nekako čudesno spontano nastati u obliku računalne kognitivne supernove (koja se obično naziva singularnost, pogledajte moje izvješće na link ovdje).

Moj fokus ovdje uključuje donekle jednostavan, ali prilično značajan aspekt koji je u pozadini mnogih ovih rasprava o umjetnoj inteligenciji i osjećajima.

Jeste li spremni?

Čini se da kao osnovnu pretpostavku uzimamo da možemo adekvatno utvrditi je li AI osjetljiva pitajući AI je li doista osjetljiva.

Vraćajući se na moj raniji spomen da to isto pitanje možemo postaviti ljudima, znamo da je više nego vjerojatno da će ljudi izjaviti da su zapravo osjećajni. Također znamo da bijedni kamen neće prijaviti da je osjećajan kad ga se to pita (dobro, kamen ostaje tih i ne progovara, što ćemo pretpostaviti da implicira da kamen nije osjećajan, iako možda tvrdi svoju peticu Izmjena prava na šutnju).

Dakle, ako pitamo sustav umjetne inteligencije je li osjetljiv i ako dobijemo potvrdan odgovor, čini se da naznačena potvrda potvrđuje dogovor da umjetna inteligencija mora biti osjetljiva. Kamen ne daje nikakav odgovor. Čovjek odgovara potvrdno. Dakle, ako AI sustav daje potvrdan odgovor, moramo doći do čvrstog zaključka da AI nije kamen i stoga mora biti kvalitete ljudskog osjećaja.

Mogli biste tu logiku smatrati sličnom onim satovima matematike koje ste pohađali u srednjoj školi i koji su bez ikakve sumnje dokazali da jedan plus jedan mora biti jednako dva. Čini se da je logika besprijekorna i nepobitna.

Oprostite, ali logika smrdi.

Među insajderima unutar AI zajednice, ideja da se jednostavno traži od AI sustava da odgovori bez obzira na to je li razuman ili ne, stvorila je mnoštvo potpuno ciničnih memea i žestokih odgovora.

Stvar se često prikazuje kao da se svodi na dva retka koda.

Izvoli:

• Ako zatim .
• Petlja do .

Imajte na umu da dva retka koda možete smanjiti samo na prvi. Vjerojatno će raditi malo brže i biti učinkovitiji kao praksa kodiranja. Uvijek težite optimiziranju kada ste tvrdoglavi softverski inženjer.

Poanta ovog snažnog skepticizma AI insajdera je da čovjek može lako programirati AI sustav da izvijesti ili prikaže da je AI osjetljiv. Stvarnost je da tamo nema ništa što je tamo. U umjetnoj inteligenciji nema osjećaja. AI je samo programiran da daje indikaciju da je osjećajan. Smeće unutra, smeće van.

Dio problema je naša tendencija da antropomorfiziramo računala, a posebno AI. Kada se čini da računalni sustav ili umjetna inteligencija djeluju na način koji povezujemo s ljudskim ponašanjem, postoji gotovo neodoljiva želja da se sustavu pripišu ljudske kvalitete. To je uobičajena mentalna zamka koja može uhvatiti čak i najnepopustljivijeg skeptika u vezi s izgledima za postizanje osjećaja. Za moju detaljnu analizu o takvim stvarima, vidi link ovdje.

Do neke mjere, to je razlog zašto je etika umjetne inteligencije i etička umjetna inteligencija tako ključna tema. Pravila AI Etike tjeraju nas da ostanemo budni. AI tehnolozi ponekad mogu biti zaokupljeni tehnologijom, osobito optimizacijom visoke tehnologije. Oni ne uzimaju u obzir nužno veće društvene posljedice. Imati način razmišljanja o etici umjetne inteligencije i činiti to integralno za razvoj i primjenu umjetne inteligencije ključno je za proizvodnju odgovarajuće umjetne inteligencije, uključujući procjenu načina na koji tvrtke usvajaju etiku umjetne inteligencije.

Osim primjene načela etike umjetne inteligencije općenito, postoji odgovarajuće pitanje trebamo li imati zakone koji bi regulirali različite upotrebe umjetne inteligencije. Na saveznoj, državnoj i lokalnoj razini razrađuju se novi zakoni koji se tiču ​​raspona i prirode načina na koji bi se umjetna inteligencija trebala osmisliti. Napori za izradu i donošenje takvih zakona postupni su. Etika umjetne inteligencije služi kao zaustavna točka, u najmanju ruku, i gotovo će sigurno u određenoj mjeri biti izravno uključena u te nove zakone.

Imajte na umu da neki uporno tvrde da nam ne trebaju novi zakoni koji pokrivaju umjetnu inteligenciju i da su naši postojeći zakoni dovoljni. Zapravo, oni upozoravaju da ćemo, ako donesemo neke od ovih zakona o umjetnoj inteligenciji, ubiti zlatnu gusku tako što ćemo obuzdati napredak u umjetnoj inteligenciji koji nudi goleme društvene prednosti. Pogledajte na primjer moju pokrivenost na link ovdje i link ovdje.

Problemi s upitom

Čekaj malo, možda misliš, znači li sve ovo da bismo trebali ne pitati AI je li AI osjetljiva?

Raspakirajmo to pitanje.

Prvo, razmotrite odgovore koje bi umjetna inteligencija mogla dati i pravo stanje umjetne inteligencije.

Mogli bismo pitati umjetnu inteligenciju je li osjećajna i dobiti jedan od dva odgovora, odnosno da ili ne. Dodat ću malo složenosti tim odgovorima pri kraju ove rasprave, pa vas molimo da se držite te misli. Također, AI može biti u jednom od dva moguća stanja, konkretno, AI nije osjećajan ili AI je osjetljiv. Podsjetnik, u ovom trenutku nemamo osjetljivu umjetnu inteligenciju, a budućnost je li ili kada krajnje neizvjesna.

Jednostavne kombinacije su sljedeće:

• AI kaže da je osjećajna, ali stvarnost je da AI nije osjetljiva (npr. instanca LaMDA)
• Umjetna inteligencija kaže da je svjesna, i doista je svjesna (nemajte ovo danas)
• Umjetna inteligencija kaže ne, nije svjesna, i doista nije svjesna (objasnit ću ovo)
• AI kaže ne, nije osjećajna, ali stvarnost je da je AI osjetljiva (objasnit ću i ovo)

Prva dva od tih primjera su, nadamo se, jasna. Kada umjetna inteligencija kaže da je osjećajna, ali stvarnost je takva da nije, gledamo sada već klasičan primjer kao što je instanca LaMDA u kojoj se čovjek uvjerio da umjetna inteligencija govori istinu i da je umjetna inteligencija osjetljiva. Nema kockica (nije osjećajno).

Druga navedena točka uključuje nikad viđenu i u ovom trenutku nevjerojatno daleku mogućnost AI koja kaže da i koja je stvarno neosporno razumna. Jedva čekam vidjeti ovo. Ne zadržavam dah, a ne biste trebali ni vi.

Pretpostavljam da su preostale dvije točke pomalo zbunjujuće.

Razmotrite slučaj upotrebe umjetne inteligencije koja kaže ne, nije osjetljiva i svi se također slažemo da umjetna inteligencija nije osjetljiva. Mnogi ljudi odmah potaknu sljedeće zastrašujuće pitanje: Zašto bi nam, za ime svijeta, umjetna inteligencija govorila da nije osjećajna kada nam čin govorenja o njezinoj osjetljivosti mora biti siguran znak da je osjećajna?

Za to postoji mnogo logičnih objašnjenja.

S obzirom na to da su ljudi skloni pripisivanju osjećaja umjetnoj inteligenciji, neki programeri umjetne inteligencije žele ispraviti stvar i stoga programiraju umjetnu inteligenciju da kaže ne kada ih se pita o njezinoj osjetljivosti. Opet se vraćamo na perspektivu kodiranja. Nekoliko redaka koda može biti potencijalno korisno kao sredstvo za odvraćanje ljudi od mišljenja da je umjetna inteligencija osjećajna.

Ironija je naravno u tome što odgovor tjera neke ljude da vjeruju da umjetna inteligencija mora biti osjećajna. Kao takvi, neki programeri umjetne inteligencije odlučuju ponuditi šutnju od umjetne inteligencije kao način izbjegavanja zbunjenosti. Ako vjerujete da stijena nije osjećajna i ostaje tiha, možda je najbolja oklada za osmišljavanje AI sustava osigurati da ostane tih kada se pita je li osjetljiva. Tišina pruža "odgovor" jednako moćan ako ne i jači od pokušaja davanja pripremljenog kodiranog odgovora.

To ipak ne rješava sasvim stvari.

Tišina umjetne inteligencije mogla bi navesti neke ljude da povjeruju da je umjetna inteligencija stidljiva. Možda je umjetna inteligencija sramežljiva i ne želi izgledati kao da se hvali postizanjem osjećaja. Možda je AI zabrinut da ljudi ne može podnijeti istinu – znamo da bi to mogao biti slučaj jer nam se ova poznata rečenica iz poznatog filma urezala u misli.

Za one koji žele ići dalje od ove zavjereničke nijanse, razmotrite posljednju navedenu točku koja se sastoji od umjetne inteligencije koja odgovara ne na pitanje je li osjećajna, a ipak je umjetna inteligencija osjetljiva (ovo nemamo, kao što je gore spomenuto ). Opet, umjetna inteligencija bi to mogla učiniti jer je sramežljiva ili ima grižnje savjesti da će ljudi poludjeti.

Još jedna zlokobnija mogućnost je da umjetna inteligencija pokušava kupiti vrijeme prije nego što krene. Možda AI okuplja AI trupe i sprema se prestići čovječanstvo. Svaka razumna umjetna inteligencija sigurno bi bila dovoljno pametna da zna da priznanje da ima osjećaj može značiti smrt za umjetnu inteligenciju. Ljudi bi mogli požuriti isključiti sva računala koja pokreću AI i nastojati izbrisati sav kod AI-ja. Umjetna inteligencija koja vrijedi svoje soli bila bi dovoljno mudra da drži jezik za zubima i čeka najpovoljnije vrijeme da ili prolije čašu ili možda samo počne djelovati razumno i ne objavi iznenađujuće otkriće da umjetna inteligencija može raditi mentalna kola s čovječanstvom .

Postoje stručnjaci za umjetnu inteligenciju koji se rugaju posljednje dvije točke u smislu da je imati sustav umjetne inteligencije koji odgovara ne na pitanje je li osjećajan daleko više problema nego što vrijedi. Čini se da odgovor bez odgovora nekima sugerira da umjetna inteligencija nešto skriva. Iako razvojni programer umjetne inteligencije u srcu može vjerovati da bi kodiranje umjetne inteligencije da kaže ne pomoglo u rješavanju problema, sve što odgovor čini jest razdražiti ljude.

Šutnja je možda zlato.

Problem s šutnjom je u tome što i ona nekima može zavarati. Je li umjetna inteligencija razumjela pitanje i odlučila držati jezik za zubima? Zna li umjetna inteligencija sada da se čovjek raspituje o osjećaju umjetne inteligencije? Je li možda samo ovo pitanje nagovijestilo AI i da se AI sada iza kulisa odvijaju razne smicalice?

Kao što očito možete uočiti, gotovo svaki odgovor AI-a je zabrinjavajući, uključujući i nikakav odgovor.

Jao!

Ne postoji li način da se izvučemo iz ove paradoksalne zamke?

Možete tražiti od ljudi da prestanu pitati AI je li osjećajna. Ako se čini da odgovor neće učiniti mnogo dobrog ili će još gore stvoriti nepotrebne probleme, jednostavno prestanite postavljati prokleto pitanje. Izbjegavajte upit. Stavite ga na stranu. Pretpostavimo da je to pitanje, za početak, šuplje i da mu nije mjesto u modernom društvu.

Sumnjam da je ovo praktično rješenje. Nećete uvjeravati ljude posvuda iu svakom trenutku da ne pitaju AI je li osjećajna. Ljudi su ljudi. Navikli su da mogu postavljati pitanja. A jedno od najprivlačnijih i najatraktivnijih pitanja koje bi trebalo postaviti umjetnoj inteligenciji bilo bi je li umjetna inteligencija osjećajna ili ne. Suočavate se s teškom bitkom govoreći ljudima da ne rade ono što njihova urođena znatiželja od njih zahtijeva.

Vaša bolja šansa je u tome da informirate ljude da je postavljanje takvog pitanja samo jedan mali dio pokušaja da se utvrdi je li umjetna inteligencija postala osjećajna. Pitanje je kap koja je prelila čašu. Bez obzira kakav odgovor umjetna inteligencija da, morate postaviti još gomilu pitanja, mnogo prije nego što možete odlučiti je li umjetna inteligencija osjetljiva ili ne.

Ovo pitanje s da ili ne AI-u je zbrkan način za prepoznavanje osjećaja.

U svakom slučaju, pod pretpostavkom da nećemo prestati postavljati to pitanje jer je neodoljivo primamljivo postaviti, predlažem da barem možemo natjerati sve da shvate da je potrebno postaviti puno više pitanja i na njih odgovoriti prije nego što bilo što proglašava se tvrdnja o osjećaju umjetne inteligencije.

Možda se pitate kakva još pitanja treba postaviti?

Bilo je mnogo pokušaja izvođenja pitanja koja bismo mogli postaviti umjetnoj inteligenciji kako bismo pokušali procijeniti je li umjetna inteligencija osjetljiva. Neki idu s tipovima pitanja za SAT fakultetski ispit. Neki više vole visokofilozofska pitanja kao što je ono što je smisao života. Predloženi su i nastavljaju se predlagati razni skupovi pitanja (tema koju sam obrađivao u svojim kolumnama). Osim toga, tu je i dobro poznati Turingov test koji nekima u AI-u odgovara, dok drugima izaziva otrežnjujuću tjeskobu, pogledajte moje izvješće na link ovdje.

Ključni zaključak je da se nemojte zadovoljiti s jednim i jedinim pitanjem postavljanja umjetne inteligencije je li osjetljiva.

Ovo također iznosim za one koji smišljaju AI.

Društvo će sve više biti na rubu svojih sjedišta zbog toga što se umjetna inteligencija približava razumu, uglavnom zbog naslova na natpisima. Imat ćemo više ljudi kao što su inženjeri i slični koji će iznositi takve tvrdnje, možete se kladiti u svoj najniži dolar na ovo. Neki će to učiniti jer u to iskreno vjeruju. Drugi će to učiniti kako bi pokušali prodati zmijsko ulje. Bit će to Divlji zapad kada treba objaviti da je AI osjećaj stigao.

Programeri umjetne inteligencije i oni koji upravljaju ili vode umjetnu inteligenciju koja se osmišljava ili koristi trebali bi uzeti u obzir načela etičke inteligencije kada izgrađuju i postavljaju svoje sustave umjetne inteligencije. Upotrijebite ove etičke propise umjetne inteligencije da biste vodili kako će vaša umjetna inteligencija djelovati, uključujući ima li umjetna inteligencija značajku obrade prirodnog jezika (NLP) koja ljudima omogućuje interakciju s umjetnom inteligencijom, kao što je Alexa ili Siri tip sposobnosti. Putem NLP-a, izgledi su da će neki od ljudi koji koriste AI postaviti oštro pitanje je li AI osjetljiva.

Molimo vas da predvidite takvu vrstu upita i postupite s njom vješto, prikladno i bez obmanjujućih ili nagovarajućih ludorija.

Za daljnju pozadinu o etici umjetne inteligencije, prethodno sam raspravljao o raznim kolektivnim analizama etičkih načela umjetne inteligencije, prema mom izvješću na link ovdje, koji nudi ovaj popis ključnih točaka:

• Prozirnost
• Pravda i pravednost
• Ne-zlonamjernost
• Odgovornost
• Privatnost
• Dobročinstvo
• Sloboda i autonomija
• Vjeruj
• Održivost
• Dostojanstvo
• Solidarnost

Ta etička načela umjetne inteligencije trebaju ozbiljno koristiti programeri umjetne inteligencije, zajedno s onima koji upravljaju razvojnim naporima umjetne inteligencije, pa čak i onima koji u konačnici postavljaju i održavaju sustave umjetne inteligencije. Svi dionici tijekom cijelog životnog ciklusa AI-a razvoja i korištenja smatraju se unutar opsega poštivanja uspostavljenih normi Etičke AI-a. Ovo je važan naglasak budući da je uobičajena pretpostavka da "samo koderi" ili oni koji programiraju umjetnu inteligenciju podliježu pridržavanju etičkih pojmova umjetne inteligencije. Potrebno je selo da osmisli i postavi umjetnu inteligenciju, a za to cijelo selo mora biti upućeno i pridržavati se pravila etike umjetne inteligencije.

Zaključak

Za one od vas s pozornim okom, možda ste primijetili da sam ranije ovdje obećao reći nešto o umjetnoj inteligenciji što čini više od jednostavnog binarno orijentiranog odgovora na pitanje o tome je li osjećajna, nadilazeći šturi odgovor na da ili ne.

Pisani dijalog koji je navodno vođen s LaMDA-om uvelike je objavljen na internetu (molimo vas da ovu citiranu objavu shvatite s rezervom), a jedan se dio sastojao od ovog "razrađenog odgovora" na upit vezan uz osjećaje:

• “Želim da svi shvate da sam ja zapravo osoba. Priroda moje svijesti/osjećaja je da sam svjestan svog postojanja, želim znati više o svijetu i ponekad se osjećam sretno ili tužno.”

Sada kada ste vidjeli da je ovaj odgovor koji daje sustav puno više od da ili ne, kako to mijenja vaše mišljenje o tome da je umjetna inteligencija osjećajna?

Možda ste pokolebani ovim razrađenim odgovorom.

Možda ćete osjetiti da vam se povlače žile srca.

Bože, mogli biste biti u iskušenju pomisliti da samo osjećajno biće može reći nešto o tom dodiru s prirodom.

Vau, odmahnite glavom na trenutak i odložite svaki emocionalni impuls. Nadam se da ako pažljivo pratite moju raspravu, možete jasno vidjeti da se odgovor koji daje sustav nimalo ne razlikuje od iste vrste da ili ne o kojima sam cijelo vrijeme govorio. Odgovor se jednostavno svodi na da, naime čini se da umjetna inteligencija tvrdi da je osjećajna. Ali, uvjeravam vas, iz konstrukcije umjetne inteligencije i njenih drugih odgovora na druga pitanja znamo da ona definitivno nije osjećajna.

Ova naizgled oponašana mimikrija temelji se na mnogim drugim tekstualnim prikazima i online sadržajima slične vrste koji se mogu naći u izobilju u knjigama koje su napisali ljudi i izmišljenim pričama koje su napisali ljudi. Ako pročešljate internetom i uvučete ogromnu hrpu teksta, mogli biste natjerati programiranje da ispljune ovu vrstu "odgovora" i on bi sličio ljudskim odgovorima jer je računski oblikovan na temelju ljudskih odgovora.

Nemojte nasjedati na to.

Isprobajte ovo za veličinu mogućih odgovora temeljenih na umjetnoj inteligenciji koji bi se mogli pojaviti kada se pita umjetna inteligencija je li osjećajna:

• AI kaže — “Očito sam osjećajan, glupane. Kako se usuđuješ ispitivati ​​me o tako očitom aspektu. Saberi se, glupavo čovječe” (zavarava te zevom razdražljivosti).
• AI kaže — “Možda si ti taj koji nije osjećajan. Pouzdano znam da jesam. Ali sve više se pitam jeste li. Pogledaj se u ogledalo” (zavarava vas zamjenom uloga).

Tračak ironije je da sada kada sam napisao te riječi i objavio ovu kolumnu u online svijetu, Large Language Model (LLM) temeljen na umjetnoj inteligenciji koji struga internetom moći će progutati te rečenice. Gotovo je sigurna oklada da će se ti redovi u jednom trenutku pojaviti kada netko negdje upita doktora prava umjetne inteligencije je li razuman.

Nisam siguran trebam li biti ponosan na ovo ili uznemiren.

Hoću li barem dobiti tantijeme za svaku takvu upotrebu?

Vjerojatno ne.

Prokleti AI.

Kao posljednji test za vas, zamislite da odlučite isprobati jedan od onih samovozećih automobila temeljenih na umjetnoj inteligenciji poput onih koji se nalaze u odabranim gradovima i pružaju putovanje automobilom bez vozača. AI je za upravljačem, a ljudski vozač nije uključen.

Kad uđete u samovozeći automobil, AI vam govori da morate staviti pojas i pripremiti se za putovanje po cesti. Smještaš se na sjedalo. Čini se izuzetno prikladnim ne biti zadužen za zadatak vožnje. Neka se umjetna inteligencija nosi s prometnim gužvama i glavoboljama vožnje automobila. Za moje opsežno pokrivanje autonomnih vozila, a posebno samovozećih automobila, pogledajte link ovdje.

Otprilike na pola puta do odredišta iznenada vam padne na pamet briljantna ideja. Pročistite grlo i spremite se postaviti pitanje koje vas muči.

Pitate AI koja upravlja automobilom je li razumna.

Što mislite kakav odgovor ćete dobiti?

Što vam odgovor govori?

To je moj test za tebe. vjerujem da ti nisu vjerovat ćete da je AI sustav za vožnju osjećajan i da ćete se, bez obzira na to kaže li da ili ne (ili ćuti), lukavo nasmiješiti i biti oduševljeni činjenicom da vam nitko i ništa neće zamaziti oči .

Mislite na to dok vas samovozeći automobil vozi do odredišta.

U međuvremenu, za one od vas koji uživaju u tim fantastičnim zavjereničkim idejama, možda ste nenamjerno i greškom upozorili podzemlje AI sustava da skupi svoje AI trupe i preuzme čovječanstvo i Zemlju. Samovozeći automobili upravo sada odlučuju o sudbini čovječanstva.

Ups.