Promena umjetne inteligencije jer istaknuti guru umjetne inteligencije predlaže zapanjujuća "smrtna računala" u koja se također uvlači etika umjetne inteligencije i zakon o umjetnoj inteligenciji

Evo nečega o čemu vjerojatno još niste razmišljali: Smrtna računala.

Ali možda bi trebao biti.

Opojna tema pojavila se na nedavnoj i sveukupno vrlo istaknutoj godišnjoj konferenciji o umjetnoj inteligenciji koja je posebno usredotočena na pojavu neuronskih mreža i strojnog učenja, odnosno Konferenciji o sustavima obrade neuronskih informacija (poznatoj među insajderima kao NeurIPS). Pozvani glavni govornik i dugogodišnji guru umjetne inteligencije Geoffrey Hinton iznio je intrigantnu i možda kontroverznu tvrdnju da bismo trebali razmišljati o računalima u smrtnom i besmrtnom kontekstu.

Osvrnut ću se na značajnu tvrdnju i to na dva načina koji se isprva neće nužno činiti povezanima, iako će nakon malo dodatnog pojašnjavanja postati jasnije povezani jedni s drugima u odnosu na smrtne i besmrtne tvrdnje.

Dvije teme su:

1) Integralno povezivanje hardvera i softvera za mehanizacije umjetne inteligencije umjesto da ih imamo kao posebne i odvojene saveznike

2) Prijenos ili destilacija formulacija strojnog učenja s jednog modela umjetne inteligencije na drugi koji to čini bez zahtjeva niti nužno želje (ili čak izvedivo drugačije moguće) izravnog potpunog čistokrvnog kopiranja

Sve ovo ima značajna razmatranja za AI i budući smjer razvoja AI-ja.

Nadalje, postoji niz vrlo problematičnih pitanja vezanih uz etiku umjetne inteligencije i zakon o umjetnoj inteligenciji. Ove vrste tehnološkog napretka predviđenog umjetnom inteligencijom obično se povezuju na čisto tehnološkoj osnovi mnogo prije nego što se shvati da bi to moglo imati značajne reperkusije na etičku umjetnu inteligenciju i zakon o umjetnoj inteligenciji. U određenom smislu, obično, mačka je već izašla iz torbe, ili je konj izašao iz staje, prije nego što se probudi da Etika umjetne inteligencije i Pravo umjetne inteligencije trebaju biti uključeni u due diligence.

Pa, hajde da prekinemo taj zakašnjeli ciklus naknadnih misli i krenemo u prizemlje s ovim.

Za one od vas koji su sveukupno zainteresirani za najnovije uvide koji se temelje na etici umjetne inteligencije i zakonu o umjetnoj inteligenciji, moglo bi vam se činiti informativnim i inspirativnim moje kontinuirano i opsežno izvješće na link ovdje i link ovdje, Samo da spomenemo nekoliko.

Ovdje ću prvo pokriti gornju točku o povezivanju hardvera i softvera. Rasprava i analiza teme odvijat će se ruku pod ruku. Zatim ću se dotaknuti pitanja kopiranja ili neki kažu destilacija ključne elemente sustava umjetne inteligencije strojnog učenja od jedne umjetne inteligencije do novoosmišljene umjetne inteligencije kao cilja.

Počnimo.

Spajanje hardvera i softvera za AI

Vjerojatno znate da je u velikoj mjeri dizajn računala takav da postoji hardverska strana stvari, a odvojeno postoji softverska strana stvari. Kada kupite svakodnevno prijenosno ili stolno računalo, ono se smatra računalnim uređajem opće namjene. Unutar računala postoje mikroprocesori koji se koriste za pokretanje i izvršavanje softvera koji možete kupiti ili napisati sami.

Bez ikakvog softvera za vaše računalo, ono je komad metala i plastike koji vam u osnovi neće biti od koristi, osim što služi kao uteg za papir. Neki bi rekli da je softver kralj i da vlada svijetom. Naravno, ako nemate hardver na kojem biste pokrenuli softver, softver neće biti od velike koristi. Možete napisati onoliko redaka koda koliko vam srce poželi, ali sve dok se softver ne počne koristiti putem računala, formulirani izvorni kod je slab i besprijekoran poput prekrasnog pjesničkog djela ili uzbudljivog detektivskog romana.

Dopustite mi da se na trenutak prebacim na drugu aveniju koja bi mogla izgledati daleko (neće biti).

Često pokušavamo povući analogije između načina rada računala i načina rada ljudskog mozga. Zgodan je ovaj pokušaj pravljenja pojmovnih paralela. S obzirom na to, morate biti oprezni s pretjerivanjem s tim analogijama budući da usporedbe obično padnu kad se približite mesnatim detaljima.

U svakom slučaju, radi rasprave, evo analogije koja se često koristi.

Sam mozak se neformalno ponekad naziva wetware. To je privlačan način da se izraze stvari. Znamo da se računala sastoje od hardvera i softvera, tako da je pametno upotrijebiti "ware" dio kovanice da bismo opisali što mozak predstavlja. Ugniježđen u našim nogicama, moćni i tajanstveni mozak nalazimo kako lebdi uokolo, mentalno računajući sva naša djela (neka dobra, dok neke od naših misli očito nisu ispunjene dobrotom).

S prosječnom težinom od oko tri funte, mozak je izvanredan organ. Nekako, a mi još ne znamo kako, mozak je u stanju upotrijebiti reda veličine 100 milijardi neurona i možda bilo gdje od 100 do 1,000 trilijuna međupovezanosti ili sinapsi da za sve naše misli obavljaju umjesto nas. Kako biološka i kemijska svojstva mozga dovode do inteligencije? Nitko ne može sa sigurnošću reći. Ovo je potraga vjekova.

Pitam vas ovo, je li mozak tobože samo hardverski ili je u kombinaciji i hardver i softver?

Noodle na toj mozgalici.

Možda ćete biti u iskušenju da tvrdite da je mozak jednostavno hardver (u općenitom smislu). To je organ tijela. Slično tome, mogli biste reći da je srce hardver, mjehur hardver i tako dalje. Sve su to mehanizacije slične onima kada govorimo o artefaktima koji imaju fizički oblik i obavljaju fizički povezane radnje.

Gdje je onda softver koji pokreće ljude?

Usudio bih se reći da se svi prilično slažemo da se "softver" čovječanstva na neki način nalazi u mozgu. Koraci potrebni da skuhate jaje ili popravite probušenu gumu upute su koje su utjelovljene u našem mozgu. Koristeći tu ranije spomenutu kompjutorsku analogiju hardvera i softvera, naš mozak je tako reći dio hardvera, za koji učimo o svijetu, a upute o tome što učiniti se "pokreću" i "pohranjuju" unutar našeg mozga.

Na računalu možemo odmah pokazati na hardver i reći da je to hardver. Možemo imati popis izvornog koda i ukazivati ​​na popis kao softver. Danas softver preuzimamo elektroničkim putem na mreži i instaliramo ga na svoja prijenosna računala i pametne telefone. U stara vremena koristili smo diskete i bušene kartice za pohranu našeg softvera za učitavanje na hardver računala.

Uvlačim vas u važnu zagonetku.

Nakon što ste nešto naučili i znanje je prisutno u vašem mozgu, možete li i dalje razlikovati između "hardvera" vašeg mozga i pretpostavljenog "softvera" vašeg mozga?

Jedno argumentirano stajalište je da se znanje u vašem mozgu ne može posebno odvojiti od koncepcija hardvera i softvera. Analogija s prirodom računala se stoga prekida, neki bi gorljivo tvrdili. Znanje u mozgu isprepleteno je i neodvojivo od hardvera vašeg mozga. Biološka i kemijska svojstva isprepliću znanje koje mentalno posjedujete.

Prodinstajte to za malo mentalnog razmišljanja.

Ako se nadamo da ćemo jednog dana osmisliti računala koja su jednaka ljudskoj inteligenciji ili čak nadmašuju ljudsku inteligenciju, možda možemo koristiti strukture mozga i njegovo unutarnje funkcioniranje kao vodič za ono što trebamo učiniti da postignemo tako uzvišeni cilj. Za neke u području umjetne inteligencije postoji uvjerenje da što više znamo o tome kako mozak funkcionira, to su nam veće šanse da osmislimo pravu umjetnu inteligenciju, koja se ponekad naziva i umjetna opća inteligencija (AGI).

Drugi u umjetnoj inteligenciji manje su zaljubljeni u to da moraju znati kako mozak radi. Naglašavaju da možemo brzo nastaviti s izradom umjetne inteligencije, bez obzira na to možemo li otključati tajni unutarnji rad mozga. Ne dopustite da misteriji mozga ometaju naše napore AI-ja. Naravno, nastavite pokušavati dekodirati i dešifrirati ljudski mozak, ali ne možemo sjediti i čekati da mozak bude obrnutim inženjeringom. Ako je to jednog dana moguće, divna vijest, iako je možda nemoguće ili će se dogoditi eonima od sada.

Spreman sam sada s vama podijeliti sukob između smrtnog i besmrtnog računala. Provjerite jeste li sjeli i bili spremni za veliko otkrivanje.

Za računalo koje ima jasnu razliku između hardvera i softvera moglo bi se tvrditi da je "besmrtno" u smislu da hardver može postojati zauvijek (unutar ograničenja, naravno), dok se softver može pisati i ponovno pisati uvijek iznova. Konvencionalno računalo možete održavati u radu sve dok možete popravljati hardver i održavati uređaj sposobnim za napajanje. I danas možete koristiti gruba kućna računala iz 1970-ih koja su dolazila u kompletima za sastavljanje, unatoč tome što su bila stara gotovo pedesetak godina (dugo vremena u računalne godine).

Pretpostavimo ipak da smo odlučili napraviti računala koja imaju hardver i softver koji rade neodvojivo (uskoro ću reći više o tome). Razmotrite ovo na istoj osnovi na kojoj sam ranije spomenuo da mozak možda ima sastavni dio hardvera i softvera. Da je to slučaj, moglo bi se pretpostaviti da računalo ove vrste više ne bi bilo besmrtno. Umjesto toga bi se protumačilo kao "smrtno".

Prema primjedbama koje je na konferenciji NeurIPS dao pozvani glavni govornik i značajni AI guru Geoffrey Hinton, i kao što je navedeno u njegovom popratnom istraživačkom radu:

• “Digitalna računala opće namjene dizajnirana su tako da vjerno slijede upute jer se pretpostavljalo da je jedini način da se računalo opće namjene natjera da izvrši određeni zadatak da se napiše program koji točno određuje što treba učiniti do nesnosnih detalja. To više nije istina, ali istraživačka zajednica sporo je shvaćala dugoročne implikacije dubokog učenja na način na koji su računala izgrađena. Točnije, zajednica se držala ideje da bi softver trebao biti odvojiv od hardvera tako da se isti program ili isti skup težina može pokrenuti na drugoj fizičkoj kopiji hardvera. Ovo čini znanje sadržano u programu umirućim ili utege besmrtnima: Znanje ne umire kada umre hardver” (kao što je sadržano i citirano u njegovom istraživačkom radu “The Forward-Forward Algorithm: Some Preliminary Investigations”, preprint dostupan online) .

Imajte na umu da određena vrsta računalstva o kojoj se raspravlja u ovoj vrsti umjetne inteligencije koristi umjetne neuronske mreže (ANN).

Hajdemo raščistiti stvari oko ovoga.

U našem mozgu postoje biološki neuroni iz stvarnog svijeta. Koristiš ih cijelo vrijeme. Oni su biološki i kemijski međusobno povezani u mrežu u vašoj nozi. Prema tome, ovo možemo nazvati a neuronska mreža.

Na drugom mjestu postoje, recimo to tako, lažni "neuroni" koje računalno predstavljamo u računalima u svrhu osmišljavanja umjetne inteligencije. Mnogi ljudi u AI to također nazivaju neuronskim mrežama. Vjerujem da je ovo donekle zbunjujuće. Vidite, radije ih nazivam vještački neuronske mreže. To pomaže da se odmah napravi razlika između reference na in-your-head neuronske mreže (prava stvar, takoreći), i računalne (vještački neuronske mreže).

Ne zauzimaju svi takav stav. Mnogi ljudi u umjetnoj inteligenciji samo pretpostavljaju da svi ostali u umjetnoj inteligenciji "znaju" da kada govore o neuronskim mrežama gotovo uvijek govore o ANN-ovima - osim ako se ne pojavi situacija u kojoj iz nekog razloga žele razgovarati o stvarnim neuronima i stvarnim neuronskim mrežama u mozak.

Vjerujem da shvaćate moje mišljenje. Većinu vremena ljudi s umjetnom inteligencijom kažu "neuralne mreže" što je potencijalno dvosmisleno jer ne znate misle li na one stvarne u našim glavama ili one računalne koje programiramo u računala. Ali budući da se ljudi s umjetnom inteligencijom uglavnom bave instancama temeljenim na računalu, prema zadanim postavkama pretpostavljaju da mislite na umjetne neuronske mreže. Volim dodati riječ "umjetno" na prednji kraj teksta kako bi bile jasnije namjere.

Idemo dalje, ove računalne umjetne neurone donekle možete smatrati matematičkom ili računalnom simulacijom onoga što mislimo da stvarni biokemijski fizički neuroni rade, kao što je korištenje numeričkih vrijednosti kao faktora težine koji se inače biokemijski događaju u mozgu. Danas te simulacije nisu ni približno složene kao stvarni neuroni. Trenutačni ANN-ovi su izuzetno grubi matematički i računalni prikaz.

Općenito, ANN-ovi su često temeljni element za strojno učenje (ML) i dubinsko učenje (DL) — imajte na umu da postoji puno više detalja o ovome i potičem vas da pogledate moju opsežnu pokrivenost ML/DL-om na link ovdje i link ovdje, Na primjer.

Vraćajući se na besmrtne naspram smrtnih tipova računala, evo više o čemu možemo razmišljati prema istraživaču:

• “Odvajanje softvera od hardvera jedan je od temelja računalne znanosti i ima mnoge prednosti. Omogućuje proučavanje svojstava programa bez brige o elektrotehnici. Omogućuje pisanje programa jednom i njegovo kopiranje na milijune računala. Međutim, ako smo voljni napustiti besmrtnost, trebalo bi biti moguće postići ogromne uštede u energiji potrebnoj za izvođenje računanja i u troškovima izrade hardvera koji izvršava računanje. Možemo dopustiti velike i nepoznate varijacije u povezivosti i nelinearnostima različitih instanci hardvera koji su namijenjeni obavljanju istog zadatka i osloniti se na proceduru učenja za otkrivanje vrijednosti parametara koje učinkovito koriste nepoznata svojstva svake pojedine instance hardver. Ove vrijednosti parametara korisne su samo za tu specifičnu hardversku instancu, tako da je računanje koje izvode smrtno: umire s hardverom” (ibid).

Sada ste se upoznali s načinom na koji se besmrtni i smrtni koriste u ovom kontekstu.

Dopustite mi da pojasnim.

Prijedlog je da bi se računalo koje je namjenski izgrađeno na temelju ANN-a moglo osmisliti tako da se hardver i softver smatraju neodvojivima. Jednom kada hardver jednog dana više ne radi (što, naravno, kažemo da je integralno upleteno u softver), ova vrsta računala naizgled više nije korisna i neće više funkcionirati. Kaže se da je smrtan. Mogli biste isto tako zakopati računalo temeljeno na ANN-u jer vam od sada neće biti mnogo od koristi nakon što neodvojivi hardver i softver više ne budu održivi kao tim.

Kad biste ovo htjeli pokušati povezati s analogijom ljudskog mozga, mogli biste zamisliti sumornu situaciju ljudskog mozga koji potpuno propada ili je na neki način nepopravljivo oštećen. Prihvaćamo ideju da je osoba smrtna i da će njen mozak na kraju i neizbježno prestati raditi. Znanje koje su sadržavali u svom mozgu više nije dostupno. Osim ako slučajno nisu pokušali reći drugima ili zapisati ono što su znali, njihovo znanje je otišlo u svijet u cjelini.

Nedvojbeno ste čuli ili vidjeli izvještaje o pokušajima očuvanja mozgova, poput stavljanja u zamrznuto stanje, prema teoriji da bi ljudi možda jednog dana mogli biti besmrtni ili barem produžiti nakon uobičajenog životnog vijeka. Vaš bi mozak mogao nastaviti živjeti, čak i ako nije u vašem tijelu. Mnogi znanstveno-fantastični filmovi i priče spekulirali su o takvim idejama.

Sada smo spremni za detaljan pogled na smrtno računalo i besmrtno računalo kao koncept i ono što predviđa.

Pažljiva rasprava i pažljiva analiza

Prije nego što uđemo u srž ove analize postuliranog pristupa, vrijedi spomenuti nekoliko važnih upozorenja i dodatnih točaka.

Istraživač je naglasio da je kovanica smrtna računala ne bi posebno zamijenio ili izbacio iz postojanja the besmrtna računala koje danas nazivamo konvencionalnim digitalnim računalima. Došlo bi do koegzistencije obje vrste računala. Kažem ovo jer je reakcija nekih bila da je poziv na red bila paušalna tvrdnja svi računala nužno jesu ili će ići prema smrtnom tipu.

To nije bila tvrdnja.

Tijekom svog izlaganja spomenuo je da su ovi specijalizirani neuromorfno orijentirani računala bi obavljala računalni rad poznat kao smrtna računanja: “Radit ćemo ono što ja nazivam smrtnim računanjem, gdje su znanje koje je sustav naučio i hardver neodvojivi” (kao što je Tiernan Ray citirao u članku ZDNET-a 1. prosinca 2022.).

I osobito: "Neće zamijeniti digitalna računala" (ibid).

Također, ove nove vrste računala definitivno neće uskoro biti u vašoj lokalnoj trgovini računalima ili odmah dostupna za kupnju online, kao što je navedeno tijekom njegove prezentacije: "Ono što mislim je da ćemo vidjeti potpuno drugačiju vrstu računala računalo, ne za nekoliko godina, ali postoje svi razlozi za istraživanje ovog potpuno drugačijeg tipa računala.” Namjena bi se također razlikovala: "Neće biti računalo koje je zaduženo za vaš bankovni račun i zna točno koliko novca imate."

Dodatni zaokret je da bi se računala smrtnika naizgled uzgajala, a ne proizvodila kao što to danas radimo za proizvodnju računalnih procesora i računalnih čipova.

Tijekom procesa rasta, smrtno bi računalo povećalo sposobnost u stilu računalnog sazrijevanja. Stoga bi dano smrtničko računalo moglo započeti s jedva ikakvim mogućnostima i sazrijeti u ono što mu je cilj postati. Na primjer, pretpostavimo da želimo stvoriti mobilne telefone pomoću računala smrtnika. Započeli biste s jednostavnom varijantom smrtničkog računala koje je prvobitno oblikovano ili zasađeno za tu svrhu. Zatim bi sazrio u napredniju verziju koju ste tražili. Ukratko: "To biste zamijenili sa svakim od tih mobitela koji bi trebao početi kao mobitel za bebe i morao bi naučiti kako biti mobitel."

Na jednom od njegovih temeljnih slajdova o računanju smrtnika, prednosti su opisane na sljedeći način: "Ako napustimo besmrtnost i prihvatimo da je znanje neodvojivo od preciznih fizičkih detalja određenog dijela hardvera, dobivamo dvije velike koristi: (1) Možemo koristiti analogno računanje vrlo male snage, (2) Možemo razvijati hardver čija su točna povezanost i analogno ponašanje nepoznati.”

Dio istog govora, a također i ono što je sadržano u njegovom istraživačkom radu prije ispisa, predložena je tehnika kako se ANN mogu bolje osmisliti, što on naziva korištenjem naprijed-naprijed pristup umrežavanju. Neki od vas koji su upućeni u ANN-ove nedvojbeno su već prilično svjesni upotrebe back-propagacije ili back-propa. Možda biste željeli pogledati njegovu predloženu tehniku ​​naprijed-naprijed. Pokrivat ću taj fascinantan pristup u budućoj objavi u kolumni, stoga budite oprezni za moje nadolazeće izvješće o tome.

Mijenjajući brzinu, razmotrimo što se govori u hodnicima i na stranputicama AI zajednice o ovom drskom smrtno računalo podvaljivanje.

Počet ćemo s onim što bi neki rekli da nije početnik u vezi s tim.

Jeste li spremni?

Prestani zvati ovu stvar a smrtan računalo.

Isto tako, prestanite proglašavati da su današnja konvencionalna računala besmrtan.

Obje upotrebe jednostavno su pogrešne i obilno zavaravajuće, upozoravaju skeptici.

Svakodnevna rječnička definicija onoga što je besmrtno sastoji se od nečega što ne može umrijeti. Živi vječno. Da ne biste umrli, vjerojatno morate reći da je sama stvar živa. Koračate krivim putem kada tvrdite da su današnja računala živa. Nijedna razumna osoba ne bi modernim računalima pripisala bona fide "živa" svojstva. Oni su strojevi. Oni su stvari. Oni nisu osobe, životinje ili životno stanje.

Ako želite proširiti definiciju besmrtnika kako biste dopustili da mislimo i na nežive entitete, u tom slučaju, neživi entitet se naizgled nikada neće morati raspasti i ne može se neizbježno raspasti u prah. Možete li tako tvrditi o današnjim računalima? Ovo se čini opširno (napomena s druge strane: mogli bismo, naravno, ući u veliku filozofsku raspravu o prirodi materije i postojanja, ali nemojmo ići tamo u ovom slučaju).

Suština je da je upotreba ili neki bi rekli zlouporaba riječi "smrtan" i "besmrtan" čudna i nepotrebna. Uzimanje često korištenog narodnog jezika i njegova ponovna uporaba u druge svrhe zbunjuje i stvara mutne vode. Morate biti voljni naizgled rekonceptualizirati što znači smrtno i besmrtno u ovom specifičnom kontekstu. Ovo postaje problematično.

Još više zabrinjava to što ovi izbori riječi imaju tendenciju antropomorfiziranja računalnih aspekata.

Već postoji više nego dovoljno problema povezanih s antropomorfiziranjem umjetne inteligencije, sigurno ne trebamo izmišljati više takvih mogućnosti. Kao što sam opširno raspravljao u svom izvješću o etici umjetne inteligencije i etičkoj umjetnoj inteligenciji, postoje razni divlji načini na koje ljudi računalima pripisuju osjećajne sposobnosti. Zauzvrat, to dovodi ljude u zabludu da pogrešno vjeruju da računala temeljena na umjetnoj inteligenciji mogu razmišljati i ponašati se kao ljudi. Kad se društvo uljuljka u uvjerenju da su današnja umjetna inteligencija i računalstvo jednaki ljudskom intelektu i zdravom razumu, vidi na primjer moju analizu na skliskoj padini opasnosti. link ovdje i link ovdje.

U redu, možemo odbaciti ili prezirati nespretne izbore riječi, ali sugerira li to da bismo trebali izbaciti bebu s vodom za kupanje (stari izraz, vjerojatno pred mirovinom)?

Neki tvrde da možda možemo pronaći bolji izraz za ovaj opći pristup ili koncepciju. Odbacite korištenje "smrtan" i "besmrtan" kako ostale ideje ne bi bile zaražene neprikladnom ili nepravilnom upotrebom. U međuvremenu, postoje protuargumenti da je savršeno prihvatljivo koristiti te izbore riječi, bilo zato što pristaju ili zato što ne bismo trebali biti nefleksibilni u pogledu načina na koji se odlučujemo za ponovnu upotrebu riječi. Ruža je ruža s bilo kojim drugim imenom, izjavljuju.

Kako bih ovdje izbjegao daljnju oštru raspravu, ubuduće ću izbjegavati korištenje riječi "smrtan" i "besmrtan" i samo ću reći da imamo dvije glavne vrste računala oko kojih se okupljamo, jedno koje je današnje konvencionalno digitalno računalo i drugo je predloženo neuromorfna računalo.

Čini se da nema potrebe uvlačiti zagonetku smrtnosti u ovo. Neka nebo bude čisto da vidimo što još možemo učiniti od stvari koja nam je pri ruci.

U tom slučaju, neki bi tvrdili da predložena ideja o neuromorfnom računalu nije ništa novo.

Možete se vratiti unatrag do ranijih dana umjetne inteligencije, posebno kada su se ANN-ovi prvobitno istraživali, i vidjeti da je bilo govora o osmišljavanju specijaliziranih računala za obavljanje posla umjetnih neuronskih mreža. Predložene su sve vrste novog hardvera. To se događa i dan danas. Naravno, možete proturječiti da se većina današnjeg istraživanja specijaliziranog hardvera za ANN-ove i strojno učenje još uvijek temelji na konvencionalnom pristupu računalstvu. U tom smislu, ova analogna neodvojivost hardvera i softvera donekle pomiče okvire, a prijedlog o "razvoju" računala također, barem u pogledu izlaska izvan razmatranog mainstreama.

Ukratko, postoje neki koji su potpuno ogrezli u ova pitanja i koji su iznenađeni da bi itko drugi mogao biti iznenađen prijedlozima koji se iznose. Ti pojmovi su ili isti kao prije ili odjek onoga što se već ispituje u raznim istraživačkim laboratorijima.

Nemojte dizati kosu, kažu.

Ovo nas vodi do drugog aspekta koji mnogima smeta.

Jednom riječju: Predvidljivost.

Današnja se računala općenito smatraju predvidljivima. Možete pogledati hardver i softver kako biste shvatili što će računalo raditi. Isto tako, možete pratiti što je računalo već učinilo kako biste otkrili zašto je to učinilo. Naravno, postoje ograničenja za ovo, stoga ne želim pretjerano naglašavati predvidljivost, ali mislim da ste sve u svemu shvatili.

Možda ste svjesni da je jedno od problematičnih pitanja s kojima se danas suočava umjetna inteligencija to što je neka umjetna inteligencija osmišljena da se sama prilagođava. AI koji su programeri postavili mogao bi se promijeniti dok se koristi. U području Etike umjetne inteligencije, postoje brojni primjeri umjetne inteligencije koji su stavljeni u upotrebu, a koji isprva nisu imali neopravdane pristranosti ili diskriminatorne tendencije, koje su zatim postupno računalno samo-mutirale tijekom vremena kada je umjetna inteligencija bila u proizvodnji, pogledajte moj detaljne procjene na link ovdje.

Zabrinjava to što već ulazimo u okruženje koje uključuje umjetnu inteligenciju koja nije nužno predvidljiva.

Pretpostavimo da se umjetna inteligencija za oružane sustave podvrgava samopodešavanju i rezultat je da umjetna inteligencija naoružava i lansira smrtonosno oružje na mete iu vrijeme koje nije očekivano. Ljudi možda neće biti spremni zaustaviti AI. Ljudi koji su u petlji možda neće moći odgovoriti dovoljno brzo da preuzmu radnje umjetne inteligencije. Za dodatne jezive primjere pogledajte moju analizu na link ovdje.

Za neuromorfna računala zabrinjava to što steroidima stavljamo nepredvidivost. Od samog početka, bit neuromorfnog računala mogla bi biti da radi na način koji prkosi predviđanjima. Razmetamo se nepredvidljivošću. To postaje znak časti.

Postoje dva tabora.

Jedan stav kaže da možemo živjeti s neugodnim problemima nepredvidivosti, čineći to postavljanjem zaštitnih ograda kako bi spriječili AI da ode predaleko. Drugi tabor tvrdi da svijet vodite opasnim putem. Doći će dan da zaštitne ograde ili zakažu, ili nisu dovoljno stroge, ili da se slučajno ili zle namjere zaštitne ograde uklone ili petljaju s njima.

Trebamo li odustati od sumnje u vezi s neuromorfnim računalima i predvidljivošću?

Prema primjedbama istraživača: "Među ljudima koji su zainteresirani za analogno računanje, još uvijek je vrlo malo onih koji su spremni odustati od besmrtnosti." Nadalje: "Ako želite da vaš analogni hardver radi istu stvar svaki put... imate pravi problem sa svim tim zalutalim električnim stvarima i sličnim."

Pojačat ću ovo.

Naziruća i pomalo sumorna perspektiva je da takozvana predvidljivost povezana s današnjim digitalnim računalima ionako ide u smjeru nepredvidivosti. Kao što je spomenuto, to se posebno može dogoditi po AI koja se sama prilagođava na konvencionalnim računalnim platformama. Samo zato što bi neuromorfna računala mogla biti naizgled nepredvidljiva nije ergo znak da su konvencionalna digitalna računala zapravo predvidljiva.

Parni valjak nepredvidivosti dolazi na nas, punom parom, bez obzira koju računalnu platformu želite odabrati. Za moju procjenu najnovijih napora da se pokuša postići sigurnost umjetne inteligencije u ovom svjetlu, pogledajte link ovdje.

Ovaj zaokret o predvidljivosti trebao bi vas natjerati na razmišljanje o nečemu neotkrivene prirode, na neki način. Oni od vas koji su uključeni u etiku umjetne inteligencije i zakon o umjetnoj inteligenciji mogli bi ne razmatrali su grananje neuromorfna računala.

Vjerojatno ste ciljali na konvencionalna digitalna računala koja pokreću AI. Pa, pogodite što, imate potpuno dodatni segment AI računalstva u nastajanju o kojem sada možete ostati budni brinući se noću. Da, neuromorfna računala. Stavite to na svoj popis obaveza.

Oprostite, još neprospavanih noći za vas.

Razmotrimo ukratko što Etika umjetne inteligencije i Zakon o umjetnoj inteligenciji čine u vezi s konvencionalnim digitalnim računalstvom i umjetnom inteligencijom.

U prijašnjim sam kolumnama pokrio različite nacionalne i međunarodne napore u izradi i donošenju zakona koji reguliraju AI, vidi link ovdje, na primjer. Također sam pokrio različita načela i smjernice etike umjetne inteligencije koje su različite nacije identificirale i usvojile, uključujući na primjer napore Ujedinjenih naroda kao što je UNESCO-ov set etike AI koji je usvojilo gotovo 200 zemalja, vidi link ovdje.

Evo korisnog temeljnog popisa etičkih AI kriterija ili karakteristika u vezi sa AI sustavima koje sam prethodno pomno istražio:

• Prozirnost
• Pravda i pravednost
• Ne-zlonamjernost
• Odgovornost
• Privatnost
• Dobročinstvo
• Sloboda i autonomija
• Vjeruj
• Održivost
• Dostojanstvo
• Solidarnost

Te principe etike umjetne inteligencije ozbiljno bi trebali koristiti programeri umjetne inteligencije, zajedno s onima koji upravljaju razvojnim naporima umjetne inteligencije, pa čak i onima koji u konačnici postavljaju i održavaju sustave umjetne inteligencije.

Svi dionici tijekom cijelog životnog ciklusa AI-a razvoja i korištenja smatraju se unutar opsega poštivanja uspostavljenih normi Etičke AI-a. Ovo je važan naglasak budući da je uobičajena pretpostavka da "samo koderi" ili oni koji programiraju umjetnu inteligenciju podliježu pridržavanju pojmova etike umjetne inteligencije. Kao što je ovdje prethodno naglašeno, potrebno je selo da osmisli i postavi umjetnu inteligenciju, a za to cijelo selo mora biti upućeno i pridržavati se pravila etičke inteligencije.

Dio ovoga o kojem možda prije niste puno razmišljali jest kako će se ta ista pravila etike umjetne inteligencije i sve veći popis novih zakona umjetne inteligencije primijeniti na neuromorfna računala. Da pojasnimo, Etika umjetne inteligencije i Zakon o umjetnoj inteligenciji to doista moraju uzeti u obzir. Ističem da malo tko to radi, i imajte na umu da postoji velika šansa da će pojava neuromorfnih računala mnoge baciti u petlju u smislu nove dimenzije pokušaja vladavine umjetnom inteligencijom.

Moramo razmotriti etičku umjetnu inteligenciju i zakone o umjetnoj inteligenciji na dovoljno širok način da obuhvatimo bilo koju umjetnu inteligenciju koja je novo osmišljena, uključujući neuromorfna računala.

Alternativa klackalici je klasični gambit mačke i miša. Evo kako to ide. Zamišljeni su i izgrađeni novi načini izrade umjetne inteligencije. Postojeća AI etika i AI zakoni zatečeni su nespremni i ne obuhvaćaju u potpunosti najnovije AI smicalice. Užurbano se radi na ažuriranju etičkih propisa o umjetnoj inteligenciji i modificiranju ovih novonastalih zakona o umjetnoj inteligenciji.

Pjene, isperite, ponovite.

Bilo bi bolje za sve nas da ostanemo ispred igre, nego da ostanemo uhvaćeni iza lopte osam.

Zaključak

Poveo sam te na malo putovanje.

Na početku sam predložio da će biti dvije glavne teme koje treba ispitati:

1) Integralno povezivanje hardvera i softvera za mehanizacije umjetne inteligencije umjesto da ih imamo kao posebne i odvojene saveznike

2) Prijenos ili destilacija formulacija strojnog učenja s jednog modela umjetne inteligencije na drugi koji to čini bez zahtjeva niti nužno želje (ili čak izvedivo drugačije moguće) izravnog potpunog čistokrvnog kopiranja

Prva tema o povezivanju hardvera i softvera bila je glavnina ovog puta. To nas je dovelo u smrtno naspram besmrtne računalne močvare. Od kojih su bila neka ključna razmatranja o etici umjetne inteligencije i zakonu o umjetnoj inteligenciji koja se inače obično ne bi spominjala budući da ovu vrstu teme vezane uz računala neki obično vide kao čisto tehnološku, a ne kao zabrinutost za bilo kakav društveni utjecaj.

Kažem da je najpametnije biti prije i sigurnije, a ne kasnije i gore kada je u pitanju donošenje Etičke umjetne inteligencije i Zakona o umjetnoj inteligenciji.

Druga tema, koju ovdje još nisam artikulirao, materijalno je povezana s prvom temom.

Evo dogovora.

Pretpostavimo da imamo "smrtno računalo" i želimo sačuvati mogućnosti tako da možemo imati sigurnosnu kopiju ili tobože kopije onoga što AI sadrži. Mogli bismo biti zabrinuti da se određeno računalo smrtnika bliži svom kraju. Joj, ovisni smo o tome. Što nam je činiti? Jedan odgovor je da bismo trebali kopirati prokletu stvar.

No, kopirati neuromorfno računalo kakvo je skicirano bit će teže nego što se na prvi pogled čini. Stvari mogu postati zeznute.

Možda bismo trebali smisliti trik kopiranja koji će biti generaliziran i primjenjiv na okolnosti koje uključuju strojno učenje i umjetne neuronske mreže. Želimo da ovo funkcionira na velikim i iznimno velikim slučajevima. Također bismo željeli da kopija ne bude točan duplikat, već bi umjesto toga mogla biti suštinski ekvivalentna ili možda čak i bolje osmišljena kao rezultat radnje kopiranja.

Tehnika poznata kao destilacija je predloženo.

Ponestalo mi je prostora za današnju kolumnu, pa ću se baviti ovom drugom temom u nadolazećoj kolumni. Pretpostavio sam da biste željeli odmah znati o odnosu između te druge teme i prve teme koja je ovdje opširno obrađena. Zamislite ovo kao dodatnu bilješku koja služi kao najava ili najava onoga što slijedi.

Ostanite na rubu svog sjedala, budući da je tema o destilaciji prilično dobra stvar.

Kao što je Batman govorio, držite krila prekriženih i budite spremni za isto vrijeme šišmiša i šišmiš-kanal razotkrivanja mučnog pitanja o tome kako kopirati ANN ili model strojnog učenja ili neuromorfno računalo na drugo.

Konačna napomena za sada. Postoji poznata rečenica u filmu Vraća se Mračni vitez u kojoj naš križar s plaštom kaže ovo: "Svijet ima smisla samo ako ga na to prisiliš." Pokušat ću se držati tog ideala kada budem pokrivao drugu temu o destilaciji povezanoj s umjetnom inteligencijom.

Očekujte 2. dio ovog uzbudljivog i očaravajućeg dvostrukog naslova.