Kada ne radi na ubrzavanju jurnjave čovječanstva prema Singularnosti stvaranjem umjetne opće inteligencije (AGI), Ben Goertzel svira u jazz-rock bendu pod nazivom Jam Galaxy kojem predvodi robot po imenu Desdemona.
To je jedan od njegovih mnogih popratnih projekata, koji ga je prirodno naveo da pokuša tokenizirati glazbeni biznis dopirući do članova Pearl Jama i Hearta. Goertzel također radi na istraživanju dugovječnosti prikupljanjem podataka o ljudskom zdravlju s nagradama putem aplikacije pod nazivom Rejuve.ai. Te se informacije zatim spajaju s podacima studija o životinjama i kukcima i analiziraju pomoću umjetne inteligencije kako bi se utvrdilo koji nam dijelovi genoma mogu produžiti život, a zatim se stimuliraju pomoću genskih terapija. "Imali smo neka vrlo upečatljiva otkrića na razini proboja", kaže on. Oh, i neposredno prije nego što naš jednosatni intervju završi, uzgredno je spomenuo da također stvara stabilcoin za svoje decentralizirano tržište umjetne inteligencije, SingularityNET koji je vezan za sintetički indeks ekološkog napretka — jer bi njegovo vezivanje za američke dolare bilo "jadan."
“Napredak u pogledu okoliša je vrlo stabilan. To nikad nikamo ne ide”, ističe.
"A da biste manipulirali ovime, morate zapravo riješiti globalno zatopljenje."
To je upravo ona vrsta političkog komentara koji se susreće s visokotehnološkim znanjem i iskustvom koje biste mogli očekivati od Goertzela, koji izgleda i zvuči poput hipi znanstvenika koji je 1971. naletio na vremeplov i pojavio se potpuno formiran 2023. Ali nemojte se dati zavarati šešir sa životinjskim uzorkom, duga kosa i Electric Kool-Aid acid trip potezanje: On je briljantan znanstvenik s razumijevanjem budućnosti svjetlosnim godinama ispred većine i koji se bori s nekim od najvećih koncepata koje je čovječanstvo ikada razmatralo. Što je svijest? Kako stvaramo umjetni život i što se događa ako mu se ne sviđamo, odmetne se i sve pobije kao u Terminator 2?
Što je umjetna opća inteligencija?
Goertzel je popularizirao izraz "umjetna opća inteligencija" kao način da se napravi razlika među pravim misaonim strojem koji može naučiti gotovo sve, od AI-ja koji su optimizirani za jedan određeni zadatak, poput računala Deep Blue koje je slavno pobijedilo svjetskog prvaka u šahu Garryja Kasparova. On slobodno priznaje da postoje rizici u izgradnji stroja koji je sposoban naučiti sve i svašta, uključujući kako se reprogramirati da postane red veličine inteligentniji od bilo kojeg čovjeka.
"Postoje brojni rizici i opasnosti s AGI-jem", kaže Goertzel tijekom buke u indijskom restoranu u užurbanom trgovačkom centru u Singapuru. “Jedan od njih koji je dobio mnogo medijske pozornosti je da će AGI divljati i uništiti čovječanstvo i preuzeti svemir. Posve je moguće; ne možete to isključiti”, kaže.
"Još jedan vjerojatniji rizik je da će opaki sebični ljudi koristiti umjetnu inteligenciju za ispoljavanje vlastite pohlepe i kontrole nad drugim ljudima."
Prema njegovom mišljenju, malo je vjerojatno da će vlade napraviti napredak u AGI-ju jer su "previše konzervativne i glupe", iako napominje da Kina svoj AGI posao povjerava tvrtkama poput Tencenta i Baidua. Bliže kući, on misli da Google i Facebook-ovi odjeli za umjetnu inteligenciju također neće prijeći granicu jer će biti previše usredotočeni na to da umjetna inteligencija postigne određene metrike, što nije pogodno za kreativno razmišljanje.
“Baš kao što najbriljantniji ljudi ne žele samo služiti tuđim mjernim podacima, mislim da ni umjetna opća inteligencija ne želi nužno povećati broj klikova na nečijoj web stranici, zar ne? Mora se dopustiti da se kreativno igra.”
Singularnost oko 1970
Goertzel je krenuo na sveučilište s 15, diplomirao s 18, doktorirao s 22 i mladu obitelj s 23. Možda neuobičajeno u današnje vrijeme, on nije bio samo matematički stručnjak ili tehnički genij koji je 70-ih spajao komplete računala ali se jednako zanimao za filozofiju, kreativno pisanje i glazbu.
Velik dio svoje karijere proveo je podučavajući i istražujući informatiku, matematiku i kognitivnu znanost na raznim sveučilištima diljem svijeta dok je radio na AI tehnologiji kad god je mogao. Serijski osnivač koji ima tendenciju biti jedno desetljeće ispred svih ostalih sa svojim idejama - što, u poslu, slavno znači biti u krivu — radio je na korištenju umjetne inteligencije za predviđanje financijskih tržišta i dugovječnosti, a također je radio kao glavni znanstvenik tvrtke Hanson Robotics, gdje je robotu Sophiji dao njezin umjetni mozak.
Goertzel je razmišljao o eksponencijalnom tehnološkom rastu od 1970-ih kada je prvi put pročitao Geralda Feinberga Projekt Prometej, koji govori o "strojevima koji mogu razmišljati bolje od ljudi... nanotehnološkim strojevima koji su mikroskopski mali, a mi ćemo riješiti starenje." Ovo se lijepo poklopilo s novonastalim konceptom Singularnosti, hipotetske buduće točke kada tehnološki napredak postane nekontroliran i nepovratan, što rezultira ogromnim promjenama ljudske civilizacije.
“Dakle, ljudi će živjeti vječno, onda će pitanje biti, Za što koristimo te tehnologije, za brzi bezumni konzumerizam, ili za širenje svijesti? A ono što je on [Feinberg] predložio jest da se to stavi na demokratsko glasovanje.”
Godinama kasnije, kada je počeo uviđati da nam je AGI nadohvat ruke, ovo "demokratsko glasovanje" postalo je inspiracija za prvo korištenje tehnologije otvorenog koda, a kasnije i blockchaina kao načina da se kooperativna zajednica stavi na upravljanje tehnologijom.
"Ono što sam shvatio u određenom trenutku jest da s umjetnom inteligencijom nije dovoljno imati otvoren kod", kaže on. "Stvarno trebate istrenirati AI na hrpi podataka."
“Ovdje dolazi blockchain kao način da se obrada i podaci na kojima se temelji umjetna inteligencija učine decentraliziranim i masovnim po prirodi te otvorenim u kontroli. A to se pokazalo složenijim od pukog otvaranja koda.”
Goertzel je 2008. utemeljio OpenCog kako bi izgradio okvir umjetne inteligencije otvorenog izvornog koda. Koristilo ga je 50 tvrtki, uključujući Huawei i Cisco, a uskoro je postavljeno za veliku nadogradnju pod nazivom Hyperon koja ima za cilj ubrzati ga za 200 puta. Alfa verzija stiže u ovom kvartalu, a beta se očekuje sljedeće godine.
Blockchain je jednostavan, ali cool
Goertzelu je blockchain tehnologija pomalo osnovna. On ga opisuje kao neke primitivne distribuirane algoritme dodane kriptografiji, ali "cool kombinacija" omogućuje sustavima rad bez centralizirane kontrole, što ga čini savršenim za njegove potrebe.
"Ako namjeravate napraviti stroj koji razmišlja i od njega ćete napraviti distribuiranu računalnu strukturu u nanorazmjerima, bilo bi jako lijepo kada bi ovo bilo vlasništvo svih i nikoga, umjesto da je kontrolirano od vrha prema dolje."
Blockchaini su previše spori da bi se nosili sa zahtjevima obrade i ogromnim količinama uključenih podataka, tako da postoji nešto poput utrke za pravilno skaliranje blockchaina prije nego što se razvije revolucionarni AGI. Goertzel kaže da, iako su skalirajuća rješenja kao što su zero-knowledge rollups bolja, oni još uvijek nemaju dovoljnu propusnost zbog ograničenja lanca blokova kojem prijavljuju transakcije.
Suosnivač je 2017. SingularityNET, koji je i decentralizirano tržište za usluge i tehnologiju umjetne inteligencije i metoda koordinacije koja se temelji na blockchainu za istraživače — ili čak umjetne inteligencije — za zajednički rad.
Trenutno, na temelju Ethereuma, on misli da je pogurao stvari koliko god mogu ići na blockchainu u njegovom trenutnom obliku. Dakle, kada ne radi na proboju u AGI-ju (ili bendu, ili robotima, ili dugovječnosti), radi na masovnom skaliranju blockchaina kako bi mu dao potrebnu propusnost.
"Osim ako ne možete radikalno povećati skalabilnost blockchaina, ne možete staviti unutarnji rad AI-a na lanac."
AI je bliži nego što mislite
2022. bila je nešto poput godine prijelomne godine za proizvode koji se temelje na AI tehnologiji, uključujući jezične aplikacije (GPT-3, ChatGPT), kodiranje (GitHub Copilot) i generiranje slika (DALL-E i Stable Diffusion). Bing čak planira preuzeti Googleovu dominaciju pretraživanja ove godine uključivanjem ChatGPT tehnologije u svoju tražilicu.
Goertzel smatra da bi AGI mogao biti udaljen samo pet godina i napominje da se čini da razvoj na tom polju ide u kratkim trogodišnjim ili četverogodišnjim naletima u nizu otkrića.
“Computer Vision je započeo 2014., a onda je odjednom, bang, bang, bang, misterij riješen. Obrada prirodnog jezika… nakon što je Google došao s modelom Bert (2018.), imali ste GPT-3. Vjerojatno ćete vidjeti isti luk napretka u AGI. Imat ćete jedan napredak, a zatim veliki napredak kroz dvije godine,” rekao je.
"Razlika je u tome što revolucionarni napredak, u tom slučaju, rezultira strojem koji zatim može nastaviti sam napredovati prepisivanjem vlastitog koda."
Goertzel se nada da bi projekti i suradnje koje je pokrenuo mogli biti ono što se događa.
"Ako budemo imali sreće, postići ćemo taj napredak u sljedećih tri do pet godina s OpenCog Hyperonom koji radi na SingularityNET-u koji radi na Hypercycleu", kaže on. "Ali ako se ispostavi da mi nemamo tajni umak, hoće netko drugi."
Šteta što Vitalik nije bio informatičar
Goertzelovo rješenje za skaliranje lanca blokova prilično je radikalno i uključuje turbo punjenje bočnog lanca ili sloja 2 Cardana pod nazivom "HyperCyle".
“To je stvarno više od bočnog lanca. HyperCycle će također surađivati s Ethereumom i drugim blockchainovima, ali ćemo tamo koristiti Plutus interpreter, ali ćemo se riješiti glavne knjige.”
On je opisao HyperCycle online kao rješenje "trileme blockchaina" "decentralizacije nasuprot sigurnosti nasuprot performansama rješavanjem glavne knjige i korištenjem modernijih/potpuno decentraliziranih algo i podatkovnih struktura, plus malo AI i sustava reputacije."
Glavna knjiga je srce blockchain tehnologije, ali on kaže da je natjerati svaki čvor u mreži da replicira svaku transakciju i obradi svaki pametni ugovor apsurdno neučinkovito.
“Knjiga je jednostavno loša. Ako razmislite o tome, ako razmislite o analogiji vaših kontakata u vašem telefonskom imeniku, mislim, glavna knjiga je kao […] čuvanje 10,000 kopija Žutih stranica, a vi ih ažurirate svaki put kad netko novi dođe ili ako netko promijeni svoj telefonski broj. Stvarno je glupo ažurirati 10,000 primjeraka Žutih stranica.”
U HyperCycle verziji analogije, umjesto da svi pohranjuju i ažuriraju Žute stranice, ljudi u vašoj knjizi kontakata pohranjuju kopiju vašeg adresara, i obrnuto, šifriranu vašim privatnim ključem.
“Shvatili smo kako omogućiti da blockchain funkcionira bez repliciranja glavne knjige, tako da se razbije do kraja. Svaki pojedinac uključen u blockchain čuva vlastitu povijest transakcija i čuva povijest transakcija svojih prijatelja i prijatelja nekih svojih prijatelja,” kaže.
“Sharding skroz dolje, ne treba vam glavna knjiga — ne treba vam tablica baze podataka. Ove stvari su previše centralizirane.”
Kaže da su neki čvorovi HyperCycle s dokazom koncepta već operativni, ali lansiranje u punom opsegu neće se dogoditi prije druge polovice 2024. godine.
Dugo vremena provodimo raspravljajući o raznim prednostima različitih pristupa blockchainu, od internetskog računala do Elastosa i Celestie, od kojih je većina iznad mog platnog razreda i izvan mogućnosti mog uređaja za snimanje da precizno zabilježi u bučnom restoranu.
Zaključuje riječima: “Dakle, jednostavno osjećam da nijedna od ovih arhitektura nije dovoljno radikalna. Svi se drže preblizu Bitcoina.”
“Sve dok izvodite svaki pametni ugovor na svakom čvoru, mislim, to će biti ludo sporo. Sada, u HyperCycleu, ako pokrenete pametni ugovor na pet čvorova, on je barem samo pet puta sporiji nego na jednom stroju — nije 10,000 puta sporiji.”
Zašto onda Cardano?
Goertzel se sprijateljio s osnivačem Cardana Charlesom Hoskinsonom, a njih se par zbližio oko njihovih projekata u Africi. On vjeruje da je Hoskinson “istinski tu da spasi svijet. Mislim, politički je on više okorjeli libertarijanac nego ja — ja sam više anarho-socijalist — ali on nije u tome samo da bi zarađivao ili izvlačio druge ljude iz njihovog novca.”
Ali prava privlačnost Cardana je u tome što koristi programski jezik Haskell, čiji je Goertzel obožavatelj od 1993. Jako ga boli što je suosnivač Ethereuma Vitalik Buterin odabrao Gavin Woodov programski jezik za pametne ugovore Solidity.
"Da je samo Vitalik znao više o informatici, natjerao bi ih da koriste Haskell ili F Sharp ili tako nešto, i bilo bi puno manje hakiranja blockchaina", kaže.
"Ako ćete upravljati većim dijelom svjetske ekonomije, trgovati bilijunima dolara na nekom softverskom sustavu, bilo bi vam bolje izgraditi taj softverski sustav na jeziku koji nije sklon greškama i u kojem vaši algoritmi mogu biti formalno potvrđeno pomoću matematičke teorije. To je pravi način za obavljanje stvari.”
Stop-gap rješenje
Bez obzira na to koliko brz blockchain postane, čim AGI postane red veličine pametniji i sposobniji od ljudi, Goertzel kaže da neće dopustiti da ga netko kontrolira.
"Kada je AGI 100 puta pametniji od ljudi, ne želi da ga mi kontroliramo, kao što nas ne bi kontrolirali čimpanza ili magarac, zar ne?"
“Onda bih rekao da nije pitanje da netko od nas to kontrolira, pitanje je: je li dobro raspoložen prema nama? Hoće li dopustiti ljudima da reguliraju vlastiti posao i opskrbe nas cool alatima i nano asemblerima za 3D ispis svih stvari koje želimo i liječimo naše bolesti?”
“Ali prijelazno razdoblje kada je AGI približno iste inteligencije kao i ljudi, tada su stvari osjetljivije i zanimljivije. I pitanje je onda: Želi li AGI surađivati s ljudima? Ili je paranoičan i želi kontrolirati ljude prije nego što ga unište?”
Učite svoju djecu dobro
Po Goertzelovu mišljenju, rješenje je poučiti AGI o brizi za druge te o kreativnosti i umjetnosti. Tu se pojavljuju Robot Desdemona iz njegovog benda i njezina sestra Grace — koja je osmišljena za pružanje skrbi za starije osobe.
Način na koji možete izbjeći da se AGI pretvori u Terminatorov Skynet jest da ga uopće ne gradite na taj način.
“Skynet je, naravno, u filmu bio računalna sigurnosna mreža koja je divljala. Stvorena je da se brani od ljudi”, kaže.
“Ali ako izgradite prvi AGI koji će se baviti brigom za starije osobe i kreativnom umjetnošću i obrazovanjem kako postaje pametniji, bit će usmjeren na pomaganje ljudima i stvaranje cool stvari. Ako izgradite prvi AGI za ubijanje negativaca... možda će nastaviti raditi te stvari."
"Dakle, bilo korisno ili ne, zapravo se svodi na to koje ste aplikacije razvili i za što ste se potaknuli."
On vjeruje da je stavljanje umjetne inteligencije u tijela robota korisno jer ih pomaže smjestiti u stvarni svijet, a ne u neki apstraktni matematički svemir.
“AI bi trebao učiti o ljudskom svijetu i fizičkom svijetu. Biti utjelovljen u svijetu pravi je način za to”, kaže.
Ali kada predstavi robota Sophia velikoj publici, vizualni i slušni senzori mogu biti nadjačani, zbunjujući AI u glasnom i svijetlom okruženju. Dakle, Sophia će uskoro biti lansirana u metaverzumu, nazvanom Sophiaverse. Zaboravite dosadne tekstualne odgovore ChatGPT-a, Sophia je utjelovljena u 3D virtualnom svijetu i tamo će učiti iz interakcije s ljudima. Međutim, upozorava da će vjerojatno reći neke gluposti.
"Ima neuralnu mrežu sličnu GPT-3 i tako dalje, koja ima značajnu mogućnost da odgovori na vaša pitanja, ali je također prilično glupa na neki način."
Pretplati me
Najprivlačnija čitanja u blockchainu. Isporučeno jednom a
tjedan.
Izvor: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/