Generativni AI ChatGPT naspram onih beskonačnih tipkajućih majmuna, nijedan natječaj ne kaže AI etiku i AI zakon

Ti razulareni majmuni.

Postoji prilično poznat misaoni eksperiment za koji ste možda čuli da uključuje majmune. Posve intrigantna naprava često se koristi od strane onih koji žele istaknuti posebno izbrušenu točku.

Evo kako ide radnja.

Zamislite da majmun tipka na pisaćoj mašini. Ako majmun nastavi tipkati tijekom beskonačne količine vremena, i pod pretpostavkom da majmun tipka ključeve čisto nasumično, izgledi su da će cijela Shakespeareova djela neizbježno biti otipkana.

Suština je naizgled da je samo slučajnim slučajem moguće ponekad dobiti razumljiv odgovor. Svi se obično slažemo da su Shakespeareova djela ogromna izložba razumljivog pisanja i razmišljanja. Stoga bi se bilo što ili bilo koji način proizvodnje Shakespeareovih cijenjenih riječi činilo nevjerojatno impresivnim, iako bismo, u isto vrijeme, bili žestoko iznevjereni da to nije bila inteligencija sama po sebi, već puka slučajna sreća.

Neki danas pokušavaju usporediti ovu metaforu punu majmuna s najnovijom umjetnom inteligencijom (AI).

Vjerojatno znate da je najpopularniji oblik umjetne inteligencije ovih dana Generativna AI, što je prikazano putem vrlo popularne AI aplikacije poznate kao ChatGPT koju je napravio OpenAI. Za koji trenutak ću objasniti više o generativnoj umjetnoj inteligenciji i ChatGPT-u. Za sada samo znajte da je ovo AI aplikacija za pretvaranje teksta u tekst ili tekst u esej koja može proizvesti esej za vas na temelju unesenog odziva po vašem izboru.

Tvrdnja o povezanosti koja se odnosi na legendarnog tipkajućeg majmuna je da navodno impresivni, izlazni eseji koje je proizvela generativna umjetna inteligencija, a koji se čine potpuno tečnim, nisu ništa zapanjujući od postignuća primata tipkača. Ako prihvatite premisu da majmun koji nasumično tipka može generirati Shakespeareova djela, i ako ste voljni priznati da su ChatGPT i drugi generativni AI naizgled isti, ergo morate zaključiti da generativni AI uopće nije posebno vrijedan pažnje. Samo nas slučajnost vara.

Pa, ovo se može činiti kao uvjerljiv slučaj, ali moramo ga raspakirati. Pažljivo raspakiranje pokazat će da je usporedba između to dvoje zavaravajuće i očito pogrešno.

Prestanite s usporedbom. Za one koji inzistiraju na nastavku usporedbe, neka to barem učine na razborit i pretjeran način.

Oni koji jednostavno bacaju usporedbu čine medvjeđu uslugu generativnoj umjetnoj inteligenciji. A još važnija zabrinutost je da ovo dovodi u zabludu širu javnost i društvo u cjelini. Pretpostavljam da bismo također mogli dodati da rade medvjeđu uslugu i marljivim majmunima, ili možda potkopavaju vrijednost teorema o beskonačnom tipkanju majmuna. Budi pošten. Budite ljubazni. Budite iskreni.

Prije nego što uđemo u dubinsko poniranje o ovome, postoji insajderska šala koja iskorištava ideju majmuna tipkača. Moglo bi ti se svidjeti.

Cinična doza humora često se povezuje s osobnom korespondencijom tijekom početnog procvata Interneta. To je bilo vrijeme kada je Internet prešao iz tmurnog ozbiljnog internetskog carstva i prešao u neobuzdani teritorij bučnog, bučnog i neposlušnog, jer je broj ljudi koji koriste Internet vidljivo rastao.

Duhovita anegdota kaže da ako bi majmuni koji tipkaju na pisaćim strojevima u konačnici proizveli ili da kažemo reproducirali cjelokupno Shakespeareovo djelo, sada imamo dokaz da zahvaljujući pojavi interneta to mora definitivno ne budi iskren.

smiješ li se

Neki ovo tumače kao vrlo smiješnu primjedbu.

Šala je omalovažavanje kako se Internet sa svim svojim pjenivim i bljujućim postovima nikako ne uzdiže do razine proizvodnje Shakespearea. To je oštro oštra primjedba koja naglašava da internet vjerojatno nema uzdignuti diskurs, već umjesto toga ocrnjen diskurs. Mnogi su pretpostavili da bi internet bio blagodat za inteligentnu interakciju, omogućujući rasprave koje potiču razmišljanje diljem svijeta. Čini se da ovome nismo nužno svjedočili u tolikoj mjeri koliko smo se nadali.

Naravno, bili bismo nemarni kada bismo šalu shvatili kao istinsku najavu onoga što je internet napravio. Postoji mnogo sjajnih otkrića i vrijednih pažnje povezanih s internetom. Šala je uljepšavanje ili preuveličavanje. Unatoč tome, dobro je shvaćeno da moramo biti oprezni prema podmuklom i olujnom sadržaju, dok ciljamo na pronalaženje i uzdizanje društveno inspirativnih djela putem interneta. Za moje izvješćivanje o tome kako AI može pomoći, a opet u dvostruke namjene moda potkopava društveni diskurs putem nepovoljnih objava na internetu, pogledajte moju raspravu na link ovdje.

U današnjoj kolumni bavit ću se značajnim razlikama između generativne umjetne inteligencije i klasične priče o tipkajućim majmunima. Objasnit ću gdje usporedba ne uspijeva. Nedvojbeno ćete na kraju saznati više o teoremu tipkajućih majmuna, zajedno s konkretnijim razumijevanjem kako generativna umjetna inteligencija radi. Povremeno ću spomenuti ChatGPT budući da je to gorila od 600 funti generativne AI (namjera igre), iako imajte na umu da postoji mnogo drugih generativnih AI aplikacija i da se općenito temelje na istim općim načelima.

U međuvremenu, možda se pitate što je zapravo generativna umjetna inteligencija.

Prvo pokrijmo osnove generativne umjetne inteligencije, a zatim možemo pobliže pogledati usporedbe teorema tipkajućih majmuna.

U sve ovo dolazi niz razmatranja etike umjetne inteligencije i zakona o umjetnoj inteligenciji.

Imajte na umu da su u tijeku napori da se etička AI načela ugrade u razvoj i primjenu AI aplikacija. Sve veći kontingent zabrinutih i nekadašnjih etičara umjetne inteligencije pokušava osigurati da napori za osmišljavanje i usvajanje umjetne inteligencije uzimaju u obzir gledište o AI za dobro i odvraćanje AI za loše. Isto tako, postoje prijedlozi novih zakona o umjetnoj inteligenciji koji se vrte okolo kao potencijalna rješenja za sprječavanje pokušaja umjetne inteligencije da ne polude po pitanju ljudskih prava i slično. Za moje kontinuirano i opsežno pokrivanje AI etike i AI zakona, pogledajte link ovdje i link ovdje, Samo da spomenemo nekoliko.

Razvoj i promicanje etičkih pravila umjetne inteligencije se nastavljaju kako bi se, nadamo se, spriječilo društvo da upadne u bezbroj zamki koje izazivaju umjetna inteligencija. Za moj prikaz etičkih načela UN-ove umjetne inteligencije koje je osmislilo i poduprlo gotovo 200 zemalja uz pomoć UNESCO-a, pogledajte link ovdje. Na sličan način, istražuju se novi zakoni o umjetnoj inteligenciji kako bi se pokušala zadržati AI na ravnomjernoj razini. Jedan od najnovijih preuzimanja sastoji se od niza predloženih AI Bill of Rights koju je američka Bijela kuća nedavno objavila kako bi identificirala ljudska prava u doba umjetne inteligencije, vidi link ovdje. Potrebno je selo kako bi AI i razvojni programeri AI-a ostali na pravom putu i spriječili namjerne ili slučajne podmukle napore koji bi mogli potkopati društvo.

U ovu ću raspravu ispreplesti razmatranja vezana uz etiku umjetne inteligencije i zakone o umjetnoj inteligenciji.

Osnove generativne umjetne inteligencije

Najpoznatiju instancu generativne umjetne inteligencije predstavlja aplikacija za umjetnu inteligenciju pod nazivom ChatGPT. ChatGPT je izronio u svijest javnosti još u studenom kada ga je objavila tvrtka za istraživanje umjetne inteligencije OpenAI. Otkako je ChatGPT prikupio goleme naslove i zapanjujuće premašio svojih dodijeljenih petnaest minuta slave.

Pretpostavljam da ste vjerojatno čuli za ChatGPT ili možda čak znate nekoga tko ga je koristio.

ChatGPT se smatra generativnom AI aplikacijom jer kao unos uzima neki tekst od korisnika, a zatim generira ili proizvodi rezultat koji se sastoji od eseja. AI je generator teksta u tekst, iako ja opisujem AI kao generator teksta u esej jer to lakše pojašnjava za što se obično koristi. Možete koristiti generativnu umjetnu inteligenciju za sastavljanje dugih kompozicija ili je možete natjerati da nudi prilično kratke sadržajne komentare. Sve je po vašoj želji.

Sve što trebate učiniti je unijeti upit i AI aplikacija će za vas generirati esej koji pokušava odgovoriti na vaš upit. Složeni tekst će djelovati kao da je esej napisan ljudskom rukom i umom. Ako biste unijeli upit koji kaže "Pričaj mi o Abrahamu Lincolnu", generativna umjetna inteligencija će vam dati esej o Lincolnu. Postoje i drugi načini generativne umjetne inteligencije, kao što su tekst u umjetnost i tekst u video. Ovdje ću se usredotočiti na varijaciju teksta u tekst.

Vaša prva pomisao mogla bi biti da se ova generativna sposobnost ne čini tako važnom u smislu stvaranja eseja. Možete jednostavno pretražiti Internet i lako pronaći tone i tone eseja o predsjedniku Lincolnu. Ono što je zanimljivo u slučaju generativne umjetne inteligencije je to što je generirani esej relativno jedinstven i pruža originalnu kompoziciju, a ne kopiju. Kad biste negdje na internetu pokušali pronaći esej koji je izradila umjetna inteligencija, teško da biste ga otkrili.

Generativna umjetna inteligencija unaprijed je obučena i koristi složenu matematičku i računsku formulaciju koja je postavljena ispitivanjem obrazaca u pisanim riječima i pričama diljem weba. Kao rezultat ispitivanja tisuća i milijuna pisanih odlomaka, AI može izbaciti nove eseje i priče koji su mješavina onoga što je pronađeno. Dodavanjem raznih probabilističkih funkcionalnosti, rezultirajući tekst je prilično jedinstven u usporedbi s onim što je korišteno u skupu za obuku.

Postoje brojne zabrinutosti u vezi s generativnom umjetnom inteligencijom.

Jedna ključna mana je da eseji koje proizvodi generativna AI aplikacija mogu sadržavati različite neistine, uključujući očito neistinite činjenice, činjenice koje su krivo prikazane i očite činjenice koje su u potpunosti izmišljene. Ti izmišljeni aspekti često se nazivaju oblikom AI halucinacije, krilatica koju ne volim, ali nažalost svejedno postaje popularna (za moje detaljno objašnjenje o tome zašto je ovo loša i neprikladna terminologija, pogledajte moje izvješće na link ovdje).

Još jedna zabrinutost je da ljudi mogu lako preuzeti zasluge za generativni esej proizveden umjetnom inteligencijom, unatoč tome što nisu sami sastavili esej. Možda ste čuli da su učitelji i škole prilično zabrinuti zbog pojave generativnih AI aplikacija. Učenici potencijalno mogu koristiti generativnu umjetnu inteligenciju za pisanje zadanih eseja. Ako učenik tvrdi da je esej napisao vlastitom rukom, male su šanse da će učitelj moći razaznati je li esej krivotvorio generativni AI. Za moju analizu ovog zbunjujućeg aspekta za učenike i nastavnike, pogledajte moje izvješće na link ovdje i link ovdje.

Na društvenim mrežama pojavile su se neke sulude pretjerane tvrdnje o tome Generativna AI tvrdeći da je ova najnovija verzija umjetne inteligencije zapravo osjećajna umjetna inteligencija (ne, nisu u pravu!). Oni iz Etike umjetne inteligencije i Prava umjetne inteligencije posebno su zabrinuti zbog ovog rastućeg trenda otvorenih tvrdnji. Mogli biste pristojno reći da neki ljudi preuveličavaju što današnja umjetna inteligencija zapravo može učiniti. Pretpostavljaju da AI ima sposobnosti koje mi još nismo uspjeli postići. To je nesretno. Što je još gore, mogu sebi i drugima dopustiti da dođu u strašne situacije zbog pretpostavke da će umjetna inteligencija biti osjećajna ili slična ljudima da bi mogla djelovati.

Nemojte antropomorfizirati AI.

Ako to učinite, uhvatit ćete se u ljepljivu i turobnu zamku očekivanja da umjetna inteligencija radi stvari koje nije u stanju izvesti. Uz to, najnovija generativna umjetna inteligencija je relativno impresivna za ono što može učiniti. Imajte na umu da postoje značajna ograničenja koja biste trebali stalno imati na umu kada koristite bilo koju generativnu AI aplikaciju.

Jedno posljednje upozorenje za sada.

Što god vidite ili pročitate u generativnom AI odgovoru koji Čini se prenijeti kao čisto činjenično (datumi, mjesta, ljudi itd.), budite sigurni da ostanete skeptični i budite voljni još jednom provjeriti ono što vidite.

Da, datumi se mogu izmisliti, mjesta se mogu izmisliti, a elementi za koje obično očekujemo da će biti nezamjerljivi su svi predmet sumnje. Ne vjerujte onome što čitate i budite skeptični kada ispitujete bilo kakve generativne AI eseje ili rezultate. Ako vam generativna AI aplikacija kaže da je Abraham Lincoln obletio zemlju u svom privatnom mlažnjaku, nedvojbeno biste znali da je to malarkija. Nažalost, neki ljudi možda neće shvatiti da u njegovo vrijeme nisu postojali mlažnjaci, ili možda znaju, ali ne primjećuju da se u eseju iznosi ova drska i nečuveno lažna tvrdnja.

Jaka doza zdravog skepticizma i uporni mentalni sklop nevjerice bit će vaša najbolja prednost kada koristite generativnu umjetnu inteligenciju.

Spremni smo prijeći u sljedeću fazu ovog razjašnjenja.

Što se događa s tim majmunima koji tipkaju

Sada kada imate privid onoga što je generativna umjetna inteligencija, možemo istražiti usporedbu s majmunima koji tipkaju. U određenom smislu, korak po korak ću postupno rastavljati teorem o tipkanju majmuna. Činim to kako bih osvijetlio temelje. Zatim možemo koristiti otkrivene elemente za usporedbu s generativnom umjetnom inteligencijom.

Teorem ili hipoteza tipizirajućih majmuna sadrži temeljni skup elemenata:

• a) Tko ili što. Identificirano stvorenje ili glumac koji tipka
• b) Broj i dugovječnost. Koliko ih ima i njihov status dugovječnosti
• c) Izlazni simboli. Izrada slova i poznatih simbola putem rudimentarnog uređaja
• d) Vrijeme. Duljina vremena izvršenja zadatka
• e) Inteligencija. Kakvu mudrost unose u izvođenje zadatka
• f) Ciljani učinak. Ciljani rezultat onoga što želimo da proizvedu

Prvo ispitajmo majmune koji tipkaju.

Možda se sjećate da sam na početku ove rasprave spomenuo da trebamo zamisliti da majmun tipka na pisaćem stroju. Rekao sam da osnovni koncepti podrazumijevaju samo jednog majmuna koji to radi. Možemo prilagoditi taj aspekt.

Evo načina na koji se situacija često prikazuje:

• Jedan usamljeni majmun svakodnevne smrtničke egzistencije
• Tisuću takvih majmuna
• Milijun takvih majmuna
• Beskonačan broj takvih majmuna
• Majmun samotnjak koji je besmrtan
• Neki broj besmrtnih majmuna
• Itd.

Primijetite da umjesto da imamo samo jednog majmuna, mogli bismo preinačiti misaoni eksperiment i imati mnoštvo majmuna koji vjerojatno rade istovremeno. Nadalje, drugi podesivi aspekt je jesu li majmuni smrtni ili besmrtni. Odmah ću dublje istražiti ovo.

Također moramo uključiti faktor vremena kao ključni sastojak.

Obično je faktor vremena jedno od ova dva razmatranja:

• Konačan vremenski period
• Beskonačno vrijeme

Još jedan pomalo neizrečen temeljni element je da se u ovom slučaju koriste majmuni jer ih smatramo relativno nerazmišljajućima. Ne znaju čitati ni pisati. Oni nisu u stanju pokazati inteligenciju na isti način na koji inteligenciju povezujemo s ljudskim sposobnostima.

Ovo je pomalo uvredljivo kada o tome malo razmislite. Mislim da se svi razumno možemo složiti da su majmuni nevjerojatno pametni, barem što se tiče onoga što mogu postići unutar svojih granica razmišljanja. Usudio bih se reći da majmunima pripisujemo veću sposobnost razmišljanja nego mnogim drugim životinjama. Postoji mnogo studioznih istraživačkih eksperimenata koji su provedeni kako bi se pokazalo koliko majmuni mogu biti mentalno bistri.

U svakom slučaju, u svrhu metafore, pretpostavka je da majmuni nisu u stanju razmišljati do te mjere da bi sami mogli zamisliti Shakespeareova djela. Dok klasični film Planet majmuna pokušao nas upozoriti da bi to mogla biti pogrešna pretpostavka, u svakom slučaju idemo s njom u današnjem svijetu.

Ako smo majmune zamijenili mravi, metafora se donekle raspršuje. Mrave ne smatramo sposobnima tipkati na pisaćim strojevima. Mogli bismo pokušati zamijeniti korištenje pasa ili mačaka budući da oni gotovo mogu tipkati na pisaćem stroju, ali na kraju je korištenje majmuna najbolje jer mogu tipkati na način koji podsjeća na tipkanje ljudi. Imaju odgovarajuće udove i strukturu tijela za obavljanje zadatka. Također se mentalno smatraju sposobnima za tipkanje, iako pretpostavljamo da ne znaju što tipkaju.

Na stranu, bilo je mnogo istraživačkih eksperimenata koji su uključivali majmune i njihovo prepoznavanje simbola. U te različite studije uključene su postavke u kojima su majmuni tipkali na pisaćim strojevima ili sličnim uređajima. Ako se učini na odgovarajući način, to može biti značajno u potrazi za korisnim uvidima o inteligenciji i nastanku inteligentnog ponašanja.

Nažalost, istraživanja koja uključuju tipkanje na pisaćim strojevima ponekad se ne provode na posebno ozbiljan način. S vremena na vrijeme korišteni pristup nije bio ništa više od slabog namigivanja-namigivanja slavnom ili zloglasnom teoremu o tipkanju majmuna, a ne vjerodostojnim temeljnim istraživanjima. Takve nestašluke ne smatram ni zabavnima ni primjerenim. Zamisao je bila da su majmuni fizički dobili pisaće strojeve i poticali ih da tipkaju na temelju njihovog hira ili ponekad za poslastice poput hrane. Osim ako se to ne učini na pošten i robustan eksperimentalni način, to nije ništa više od fasade.

Mali zaokret koji je ugodniji sastoji se od postavljanja računalnih simulacija koje navodno izvode ono što bi majmuni mogli učiniti u ovim okolnostima. Računalo se koristi za simulaciju ovih aspekata. Nisu uključeni pravi majmuni. Neki su čak otišli toliko daleko da su malo radili tzv građansku znanost dijeljenjem simulacije svakome tko želi dopustiti da se njihovo prijenosno računalo ili računalo koristi za te napore. Ne nasjedajte na lažne prijevare koje podmuklo tvrde da to rade za znanost, a stvarnost je da pokušavaju zaraziti vaše računalo računalnim virusom. Budite oprezni.

Da se vratim na stvar.

Jedan aspekt koji je također od ključne važnosti za ovu okolnost je da se pisaći strojevi koriste u ovoj hipoteti o tipkajućem majmunu.

Zašto pisaći strojevi?

Jer tako možemo dobiti produkciju slova, koja se zatim mogu oblikovati u riječi, koje se zatim mogu oblikovati u priče. Isti ili sličan pojam stvaranja puno slova ne zahtijeva nužno da ih tipkamo. Doista, postoje varijante ove metafore koje sežu do Aristotelovih dana i ergo tada nije bilo pisaćih strojeva.

Mogli bismo promijeniti metaforu i referirati se na moderne tipkovnice i računala. Mogli bismo reći da majmuni lupaju po laptopu ili možda čak i po pametnom telefonu. Ljepota spominjanja pisaćih strojeva je u tome što ih povezujemo kao nekompjuterizirane i stoga ne pomažu u samom procesu tipkanja. Ovo je ključno za uključeni izum.

Na kraju, obično nam se predstavlja aspekt da će se stvarati Shakespeareova djela. Mogli bismo Shakespearea zamijeniti bilo kojim drugim poznatim autorom. Može biti da želimo znati mogu li majmuni proizvesti cijela djela Charlesa Dickensa, Jane Austen, Ernesta Hemingwaya i tako dalje. Nije posebno važno. Suština je da pisanje mora biti nešto što svi znamo i što priznajemo kao izvanredno pisanje.

Možemo lako zamijeniti bilo koji tekst koji želimo postaviti kao cilj.

Pogodnost spominjanja Shakespearea je u tome što se njegova djela tumače kao vrhunac ili vrhunac ljudskog pisma. Umjesto toga mogli bismo pronaći sastavak koji je napisao učenik prvog razreda i upotrijebiti ga kao cilj. Vjerovali ili ne, ista pravila još uvijek vrijede. Ljudima vjerojatno ne bi bilo inspirativno da su majmuni uspjeli reproducirati djetetovo pisanje. Kako bi stvari ostale privlačne, pisanje mora biti najvišeg kalibra.

Varijanta ciljanog rezultata bila bi upućivanje na određeno Shakespeareovo djelo, a ne na cjelokupno njegovo djelo. Kao što ćete uskoro vidjeti, nema velike razlike u srži stvari. Pretpostavljam da mnogi ljudi to spominju Hamleta kao dio teorema o tipkanju majmuna, možda zato što je ovo njegova najduža igra, koja iznosi 29,551 riječ u veličini (sastavljenu od otprilike 130,000 slova).

Bilo koja njegova drama bila bi dovoljna.

Cijela izmišljotina ovisi o različitim zakonima vjerojatnosti. Možda ste naučili o nijansama vjerojatnosti na onim iscrpljujućim satovima statistike i matematike koje ste pohađali u školi.

Upotrijebimo riječ “Hamlet” da vidimo što je potrebno da se nasumično proizvede tih šest slova u tom specifičnom nizu Hamleta.

Najlakši način da to aritmetički izračunamo sastoji se od pretpostavke da imamo jednostavan okrugli broj dostupnih tipki na pisaćem stroju. Pretpostavimo da imamo pisaći stroj koji ima 50 različitih i jednako upotrebljivih tipki. Svaki ključ predstavlja određeni simbol kao što su simboli uobičajene engleske abecede. Pretpostavimo da su ključevi raspoređeni nasumičnim redoslijedom i da nismo namjestili situaciju stavljanjem zasebnih ključeva Hamleta u određeni raspored kako bismo potaknuli tipkanje tih specifičnih ključeva više od bilo kojih drugih ključeva.

Svaka se tipka pritisne potpuno neovisno o tipki koja je prije nje pritisnuta. Stoga, od 50 tipki, šanse da se bilo koja tipka pritisne smatraju se 1 od 50 mogućnosti. Isto vrijedi za sve tipke i tijekom cijelog napora tipkanja. Izračun za jednu pritisnutu tipku je šansa 1 od 50, ili to je 1/50.

Šanse da upišete slovo "H" su 1/50, šanse da upišete slovo "a" su 1/50, a šanse da upišete slovo "m" su 1/50, i tako dalje.

Ovo je:

• Vjerojatnost da se "H" upiše je 1/50.
• Vjerojatnost da se "a" upiše je 1/50.
• Vjerojatnost da se "m" upiše je 1/50.
• Vjerojatnost da se "l" upiše je 1/50.
• Vjerojatnost da se "e" upiše je 1/50.
• Vjerojatnost da se "t" upiše je 1/50.

Standardno pravilo ili zakon vjerojatnosti kaže da ako su dva ili više događaja potpuno statistički neovisni jedan o drugom, možemo izračunati šanse da se oba dogode jednostavnim množenjem njihovih vjerojatnosti međusobno. To možemo učiniti u vezi s ovih šest slova.

Imamo ovaj izračun: "H" (1/50) x "a" (1/50) x "m" (1/50) x "l" (1/50) x "e" (1/50) x “t” (1/50)

To je: (1/50) x (1/50) x (1/50) x (1/50) x (1/50) x (1/50)

Manji broj dolazi do 1/15,625,000,000.

Šanse da utipkate riječ od šest slova "Hamlet" su otprilike jedan prema 15 milijardi, ako su sve ostale iste.

To su zastrašujući izgledi. A ovo je samo za upisivanje određene riječi od šest slova. Pokušajte ovaj isti izračun primijeniti na 29,551 XNUMX riječ cijele Hamletove drame. Ako odlučite to izračunati, također shvatite da je potrebno uzeti u obzir razmake između riječi.

Što je duži ciljani izlaz, veće su šanse da nećemo moći generirati te precizne skupove slova i riječi. Izgledi postaju sve manji i manji. Šanse su toliko male da bismo gotovo bacili ručnik i rekli da se čini kao da se to "nikada" neće dogoditi (budite oprezni kada koristite riječ "nikada" jer je to ogromna svađa).

Uzmimo za primjer smrtnog majmuna.

Prema raznim uglednim internetskim pokazateljima, uobičajeni životni vijek majmuna u divljini je oko 40 godina. Ako želite raspravljati o životnom vijeku, možemo jednostavno upotrijebiti broj 100 i nastaviti s prilično malo vjerojatnom gornjom granicom. Majmun koji tipka na pisaćem stroju bez prestanka recimo stotinu godina, ne uključujući vrijeme za odmor, vrijeme za jelo ili slično, i pod pretpostavkom da je to sve što je majmun radio od trenutka rođenja do posljednjeg daha, ipak je pobijedio ne pomaže u izjednačavanju izgleda pisanja Hamleta sve rečeno (majmun bi, kad bi tipkao tipku svake sekunde bez prestanka tijekom 100 godina, pritisnuo oko 3,155,673,600 tipki).

S razlogom možemo reći da je iznimno mala vjerojatnost da bi smrtni majmun slučajno slučajno završio tipkajući Hamleta.

Možete povećati broj smrtnih majmuna, ali to malo utječe na velike izglede protiv upisivanja Hamleta. Neki tvrde da postoji tisuću majmuna. Drugi pristup kaže da postoji milijun majmuna. Pod pretpostavkom da su svi doživjeli 100 godina i da je svaki otkucao jednu nasumično odabranu tipku na svom pisaćem stroju neprestanom brzinom od jedne tipke u sekundi, to još uvijek ne čini statistički značajnu razliku u tipkanju igre. Hamleta.

Razmislite o svemu ovome.

Pomalo bezobrazno, gdje biste točno smjestili milijun majmuna za ovaj zadatak? Zamislite također da pisaći strojevi moraju trajati stotinu godina kontinuirane uporabe (možete li pronaći milijun ispravnih pisaćih strojeva koje nitko ne želi i nije voljan donirati ovom nekadašnjem projektu?). Čini se da biste trebali imati puno rezervnih pisaćih strojeva odmah spremnih. I tako dalje. Logistika je zapanjujuća.

Sve ovo onda izgleda sumorno da se smrtni majmuni vjerojatno neće razmnožavati Hamleta.

Ali pretpostavimo da ih učinimo besmrtnima. Da, dajemo im neki čarobni napitak koji im omogućuje da žive vječno. Čak nam i ne treba više od jednog besmrtnog majmuna. Dovoljno je samo jedno. Metaforu bi moglo učiniti uzbudljivijom tvrdnja da imamo tisuću ili milijun besmrtnih majmuna.

Ako imamo jednog majmuna koji može živjeti vječno, mogli bismo reći da je to beskonačni majmun. Može beskrajno dugo lupati po tipkama pisaćeg stroja. Taj će majmun samo ići i ići. Sukladno tome, iako su šanse za tipkanje igrati Hamleta bili iznimno mali, aspekt koji će majmun neprestano pokušavati sugerira da će u nekom trenutku igra Hamleta će gotovo sigurno biti otkucani.

Praktično pravilo je da se slijed događaja za koji postoji šansa da se dogodi različita od nule, iako je vjerojatnost izuzetno niska, razumno bismo se složili da će se gotovo dogoditi ako imamo beskonačno vrijeme za igru, sve ostalo jednako. Oni koji se bave matematikom i statistikom skloni su opisivanju istog razmatranja upotrebom nizova ili čak binarnih brojeva od 0 i 1. Ako imate konačan skup simbola, a postoji beskonačan niz njih, pri čemu svaki simbol ima odabran jednolično nasumično, postoji konačan niz za koji biste gotovo sigurno mogli predvidjeti da će se pojaviti.

Postoji velika kvaka u svemu tome.

Živimo u svijetu konačnosti. Čini se da nitko od nas nema beskonačno dostupno vrijeme. Za one od vas koji kažu da jesu, svaka čast. Skidam ti kapu.

Nametnete li ograničeni svijet majmunima koji tipkaju, naići ćete na prilično čvrst zid. Analize teorema tipizirajućeg majmuna prilično će ponuditi da je vjerojatnost ostvarenja igre Hamleta je dovoljno blizu nule u konačnom vremenu da za bilo koju razumnu operativnu osnovu jednostavno nije vjerojatno da će se dogoditi. Uobičajeni opis je da ako ste upotrijebili onoliko majmuna koliko ima atoma u poznatom svemiru, a oni su nastavili tipkati mnogo zilijuna vremena vremenskog raspona svemira, još uvijek gledate na nezamislivo malene i nedokučive izglede da vidite igra Hamleta.

Teorem o tipkajućem majmunu prilično je smiješan i često se svrstava među sedam najboljih misaonih eksperimenata našeg doba. Slobodno možete dodatno ispitati teorem jer postoji mnogo analiza dostupnih na internetu. To je živopisan i ugodan način za shvaćanje vjerojatnosti i statistike. Umjesto da se bavite isključivo suhoparnim brojevima, možete zamisliti te vesele majmune željne zabave i sve te staromodne pisaće strojeve.

Sada smo spremni unijeti generativnu umjetnu inteligenciju u zagonetku majmuna i pisaćih strojeva.

Generativnu umjetnu inteligenciju ljute majmuni koji tipkaju

Premisa koju ćemo pomno ispitati je sporna tvrdnja da se generativni AI kao što je ChatGPT ne razlikuje od tipkajućih majmuna. Rečeno je da ako ChatGPT ili bilo koji generativni AI može proizvesti Hamleta ili sličnim poznatim djelima, ovo je potpuno slučajan rezultat koji je vjerojatno nastao na isti način na koji bi majmuni mogli doći do tipkanja ove dugo cijenjene i duboko cijenjene Shakespeareove drame.

Oprostite, to je pogrešno razmišljanje o ovoj teškoj temi.

Da vidimo zašto.

Prvo, pogledajmo i proširimo ono od čega se sastoji generativna umjetna inteligencija.

Podsjetimo se da sam ranije naznačio da je generativni AI softver koji uključuje korištenje algoritama za obradu podataka o tekstu koji postoji na Internetu i putem drugih sličnih izvora. Ogroman niz sparivanja uzoraka matematički je i računalno identificirao uzorke među milijunima i milijunima pripovijesti i eseja koje smo mi ljudi sastavili.

Riječi same po sebi nemaju nikakav poseban značaj. Zamislite ih kao objekte. Unutar računala oni su predstavljeni kao brojevi koje označavamo kao žetone. Koriste se kao prikladno sredstvo za međusobno povezivanje drugih riječi ili tokena, čineći to u dubinskoj i zamršenoj strukturi nalik na statističku mrežu.

Neki u području umjetne inteligencije zabrinuti su da to nije ništa više od onoga što se naziva a stohastička papiga.

Vidite, umjesto pokušaja povezivanja nekog privida "značenja" s riječima, ovo je samo opsežno indeksiranje riječi za koje se čini da se koriste oko ili pored drugih riječi. Nasuprot tome, pretpostavljamo da ljudi mogu "razumjeti" prirodu i značenje riječi.

Razmotrite svoj svakodnevni pristup prisutnosti korespondencije od riječi do riječi. Slično kao kad koristite uobičajenu funkciju automatskog dovršavanja u svom softveru za obradu teksta, računalo matematički izračunava da nakon određene riječi obično slijedi neka druga određena riječ, koju zauzvrat slijedi druga određena riječ, i tako dalje. Stoga često možete početi pisati rečenicu, a paket za obradu teksta će vam pokazati koje će dodatne riječi biti dodatne riječi u rečenici.

To je pretpostavka jer statistički gledano, ovo bi mogle biti uobičajene riječi rečenice, ali možda imate nešto drugo na umu za reći, pa se predviđanje razlikuje od onoga što ste htjeli napisati. Vjerojatno postoji dovoljno drugih primjera rečenica koje koriste te riječi za koje algoritam može procijeniti da ćete vjerojatno htjeti završiti rečenicu s predviđenim riječima. Ovo nije željezno. Također, ne postoji "značenje" povezano s ovom računskom pretpostavkom.

Neki istraživači umjetne inteligencije tvrde da bi se postigla prava umjetna inteligencija, često skovana kao Umjetna opća inteligencija (AGI), morat ćemo nekako kodificirati u računala još otkriveni ili izmišljeni oblik "razumijevanja" (pogledajte moju kolumnu za brojne objave o AGI-ju i potrazi za AGI-jem). Brinu se da je manija oko generativne umjetne inteligencije samo slijepa ulica. Nastavit ćemo pokušavati pogurati sve više i više generativnu umjetnu inteligenciju povećanjem veličine računalnih mreža i ubacivanjem sve više i više računalne procesorske snage u tu stvar. Sve to neće biti od koristi za dolazak u AGI, tvrde.

Dodatna zabrinutost je da nas možda ova potraga za navodnim slijepom ulicom odvraća od ispravnog ili ispravnog smjera djelovanja. Potrošit ćemo ogromnu energiju i trud prema pogrešnom konačnom stanju. Naravno, generativna umjetna inteligencija bi mogla biti zapanjujuća u trikovima mimikrije, ali moglo bi biti da to ima malo ili nimalo veze s AGI-jem. Mogli bismo se zavarati i izgubiti dragocjeni fokus. Mogli bismo odgoditi ili možda čak ne uspjeti doći do AGI-a zbog ove primamljive smetnje.

U svakom slučaju, za potrebe tipkajućih majmuna, vratimo se na cjelokupnu frku.

Moramo uzeti u obzir ove važne čimbenike:

• 1) Osjećajni protiv neosjećajnih
• 2) Razmišljanje nasuprot ne "razmišljanja"
• 3) Ograničeni procesi razmišljanja u odnosu na računalne algoritme i usklađivanje uzoraka
• 4) Neobučeni ili nesposobni za osposobljavanje naspram obučenih računalnih podataka

Pozabavimo se svakim od tih čimbenika.

Osjećajni protiv neosjećajnih

Vjerujem da možemo priznati da su majmuni živa bića. Bez obzira na to koliko pametni ili bez pameti možda želite tvrditi da jesu; nedvojbeno su osjećajni. To je činjenica. Nitko ne može razumno tvrditi suprotno.

Današnja umjetna inteligencija nije osjećajna. Točka, točka.

Nadalje, tvrdim da nismo ni blizu AI osjećaja. Drugi se, naravno, ne bi složili. Ali svatko razumne pribranosti složit će se da današnja umjetna inteligencija nije osjećajna. Za moju analizu užasno pogrešnog označavanja AI osjećaja od strane tog Googleovog inženjera prošle godine, pogledajte moju raspravu na link ovdje.

Dakle, jedna ključna razlika između onih majmuna koji revno tipkaju i današnje generativne umjetne inteligencije jest ta da su majmuni osjećajna bića, dok umjetna inteligencija nije. Povrh svega, često je sklizak teren početi uspoređivati ​​današnju umjetnu inteligenciju s bilo čime razumnim. Postoji tendencija antropomorfizacije AI. Oštro pozivam da, kako bismo pokušali spriječiti ovu laku mentalnu zamku da nas zadesi, izbjegavamo bilo kakve usporedbe između umjetne inteligencije i živih bića, osim ako nismo pretjerani i jasno eksplicitno identificiramo i razgraničimo tu razliku.

Malo njih, ako uopće itko, pravi to razgraničenje kada se uspoređuju tipkajući majmuni i generativna umjetna inteligencija. Pretpostavljaju da ćete ili već shvatiti da postoji ta razlika, ili ih nije briga što postoji razlika, ili o tome nisu razmišljali itd.

Razmišljanje nasuprot ne "razmišljanja"

Tvrdio bih da majmuni mogu misliti. Oni su misleća bića. Možemo lako raspravljati o tome koliko razmišljanja mogu učiniti. Gotovo sigurno se morate složiti da majmuni mogu razmišljati.

Današnja umjetna inteligencija svih vrsta, uključujući generativnu umjetnu inteligenciju, ne dostiže ono što smatram ljudskim kapacitetom mišljenje.

Ponovit ću svoj maloprije spomenuti refren vezan uz osjećajnost. Pogrešno je i tvrdim da nije u redu govoriti da današnja umjetna inteligencija može razmišljati. Nažalost, ljudi to rade cijelo vrijeme, uključujući istraživače i programere umjetne inteligencije. Vjerujem da je ovo opet nesretno i nepromišljeno antropomorfiziranje. Umjetnoj inteligenciji dajete privid kapaciteta ili sposobnosti kojih nema i koje će dezinformirati društvo u cjelini o tom pitanju. Prestani to raditi.

Generativna umjetna inteligencija složena je struktura slična mreži matematičkih i računalnih svojstava. To je vrijedno divljenja. Zanimljivo je što se time postiže. Ne vjerujem da bilo koje razumno tumačenje "razmišljanja" kako ga mi shvaćamo, u svoj njegovoj slavi, priliči ovoj umjetnoj inteligenciji.

Ograničeni procesi razmišljanja u odnosu na računalne algoritme i usklađivanje uzoraka

Majmuni su ograničeni u svojim procesima razmišljanja.

Moglo bi vam biti zanimljivo da u znanstvenoj literaturi postoje mnoge usporedbe mozgova majmuna s mozgovima ljudi. Na primjer, razmislite o ovoj istraživačkoj studiji: “Ljudski mozak otprilike je tri puta veći od mozga našeg najbližeg živućeg rođaka, čimpanze. Štoviše, dio mozga koji se naziva kora velikog mozga – koji igra ključnu ulogu u pamćenju, pažnji, svijesti i mišljenju – sadrži dvostruko više stanica kod ljudi nego ista regija kod čimpanza. Mreže moždanih stanica u cerebralnom korteksu također se ponašaju različito u dvije vrste” (u članku objavljenom u Elife, rujan 2016., pod naslovom “Razlike i sličnosti između neuralnih pretka čovjeka i čimpanze tijekom razvoja moždane kore”).

Svi znamo da majmuni nisu na razini ljudskog razmišljanja. Ta čudesna stvorenja mogu biti simpatična i mogu iznenađujuće mnogo razmišljati, nema sumnje. Oni se jednostavno ne uzdižu do razine ljudskog razmišljanja. Požalit ću što sam ovo rekao kad majmuni preuzmu čovječanstvo.

Već sam maloprije rekao da današnja umjetna inteligencija ne razmišlja. Naglasio sam da ono što umjetna inteligencija radi ne bi trebalo biti označeno kao "razmišljanje" jer je to pogrešno i zbunjujuće.

Ovdje generativna umjetna inteligencija zaista nadmašuje majmune, u smislu korištenja računalne obrade koja se temelji na algoritmima koje su osmislili ljudi i temelji se na zapisima koje su proizveli ljudi. Mala je ili nikakva šansa da bi majmun koji razmišlja mogao apsorbirati i uskladiti obrazac s velikom upotrebom pisanih simbola koje su ljudi smislili. Majmuni nemaju takvu sposobnost razmišljanja.

Oklijevam predložiti takvu usporedbu, s obzirom na moje druge izražene nedoumice. Ali, jasno navodim koje su pretpostavke i kako pravilno i prikladno provesti ovu analizu.

Neobučeni ili nesposobni za treniranje nasuprot računalno osposobljenim podacima

Slično onome što sam upravo rekao, nećete moći istrenirati majmuna koji razmišlja o širokoj upotrebi pisanih simbola čovječanstva. To možete učiniti na vrlo ograničenoj osnovi, a studije su pokazale da majmuni naizgled mogu razmišljati o pisanim simbolima. To je daleko manje od mogućnosti pamćenja i ponavljanja opsežnih obrazaca riječi, rečenica i cijelih priča.

Generativna umjetna inteligencija računalno je bazirana statistička mimikrija koja se može računalno uvježbati podacima. Ako nastavimo unositi više podataka kao što su dodatni tekstovi koje prikupimo ili nađemo, pretpostavka je i nada da će pronađeni obrasci biti sve dublji i dublji. Osim toga, korištenje sve bržih i bržih računalnih čipova i obrade također će povećati ovu sposobnost usklađivanja uzoraka i odgovora.

Gledajući dno

Kad bi generativna umjetna inteligencija proizvela predstavu Hamleta, što bi to značilo?

Prvo, moramo razmotriti je li priča ili igra unesena u generativni AI u vrijeme obuke podataka. Ako je tako, nema ničeg posebno značajnog ili izvanrednog u vezi s tim da generativna umjetna inteligencija kasnije izbacuje iste riječi koje je prethodno skenirala.

Istraživač umjetne inteligencije mogao bi biti pomalo užasnut jer je slaganje uzoraka vjerojatno pretjeralo, jer je u biti zapamtio riječi. U području strojnog učenja to obično nazivamo prekomjerno opremanje na podatke koji su korišteni tijekom obuke. Tipično, ne želite da točne riječi budu uzorkovane, želite da se formira generalizirani obrazac.

U svojim sam kolumnama raspravljao o zabrinutosti da bismo s vremena na vrijeme mogli vidjeti narušavanje privatnosti i otkrivanje povjerljivih podataka u slučajevima kada je generativna umjetna inteligencija izvršila precizno podudaranje, a ne generalizirano podudaranje podataka, pogledajte moje izvješće na link ovdje.

Drugo, pretpostavimo da predstava Hamleta nije uneseno u generativni AI. Sljedeće razmatranje tada bi bilo je li bilo koje od Shakespeareovih djela skenirano tijekom podatkovne obuke.

Ako je tako, zamislivo je da predstava Hamleta može se proizvesti na temelju obrazaca povezanih s drugim Shakespeareovim djelima, osobito ako postoje druge reference ili spominjanja Hamleta drugdje u skupu podataka za obuku. Sve bi se to moglo potencijalno iskoristiti za usklađivanje uzoraka za oblikovanje stila Hamleta. Doduše, moći generirati Hamleta riječ po riječ bio bi širok domet, prilično upečatljiv i iznenađujući rezultat.

Treće, ako je generativna umjetna inteligencija proizvela cjelokupnost Hamleta i nikada prije toga nisam čuo ništa o Shakespeareu, pa, to bi bilo zapanjujuće. No, to ne bi nužno bilo sasvim isto kao čisto nasumična priroda kljucanja tipki na pisaćem stroju. Moramo shvatiti da su Shakespeareove riječi riječi, dakle, one su dio ukupnosti formulacija koje se nalaze u golemom nizu tekstualnih priča i narativa unesenih u generativnu umjetnu inteligenciju. Poboljšavate izglede počevši od kamena temeljca riječi i asocijacija među riječima. Ipak, prilično su male šanse da se ovako nešto dogodi.

Zaključak

Kada je riječ o pisanju riječi i eseja, generativna umjetna inteligencija postaje gangsters jer se temelji na riječima i esejima koje su ljudi smislili (naravno, moramo se otvoreno suočiti s pogreškama, neistinama i halucinacijama umjetne inteligencije). AI ne "razumije" emitirane riječi. Tamo ga nema, tamo.

Ne morate čekati beskonačno dugo da biste vidjeli tečne eseje i potpuno čitljive rezultate. Događaju se svakodnevno i pritiskom na gumb. Nisu zbrkani, barem ne većinu vremena, jer su uzorci proizvedeni na temelju onoga što su ljudi napisali. Usklađivanje uzoraka trebalo bi dodatno fino podesiti i na kraju dovoljno dobro da smanji većinu čudnih formulacija, pogledajte moje objašnjenje kako bi to moglo funkcionirati, prikazano na link ovdje. Ovo podešavanje će se neprestano usavršavati i svi ćemo biti sve više opčinjeni onim što generativna umjetna inteligencija proizvodi.

Riječi nisu čisto slučajno odabrane. Riječi nisu nasumično napisane. Postoje neki aspekti vjerojatnosti, kao što je prilikom generiranja izlaznog eseja o tome koje riječi odabrati. Ali ovo se još uvijek temelji na ljudskim spisima i stoga vjerojatno nije slučajno. Temelji se na nasumičnom odabiru između nekolicine ili određenog broja opcija riječi koje bi inače statistički mogle biti izvedive kao sljedeća odabrana riječ ili skup riječi.

Gdje se majmuni uklapaju u ovo?

Ti tipkajući majmuni zasigurno su privlačni kao osnova za usporedbu s generativnom umjetnom inteligencijom. Majmuni koji proizvode Hamleta naspram generativne proizvodnje umjetne inteligencije Hamleta. To je zadivljujuće natjecanje. Mogli biste reći da zapravo uopće nije uključeno natjecanje. Umjetna inteligencija koju je osmislilo čovječanstvo i koja se temelji na ljudskim spisima ima nepravednu prednost u tom pogledu.

Kad smo već kod tipkanja majmuna, u epizodi The Simpsons, gospodin Burns odlučuje unajmiti majmune da nastave i tipkaju na pisaćim strojevima kao dio uredskog skupa za tipkanje. On je vrsta mrzovoljnog šefa koji bi radosno gravitirao korištenju majmuna u svom potrebnom uredskom poslu umjesto korištenju ljudi da je to mogao učiniti.

Obožavatelji serije možda će se sjetiti što se dogodilo.

G. Burns zgrabi jednu od otipkanih stranica i sa željnim iščekivanjem čita što je majmun upisao. Čita stranicu naglas i kaže: “Bila su to najbolja vremena, bila su to zamutiti se of times” (tj. postoji jedna riječ koja je zbrkana, “blurst” ili nešto slično). Postaje potpuno bijesan i krajnje razočaran tim "glupim majmunima" što mogu proizvesti.

Znamo da bismo trebali biti oduševljeni i skakati od sreće ako bi majmun upisao taj dio "Priče o dva grada" Charlesa Dickena. Nije tako za gospodina Burnsa.

Kao završni komentar ove rasprave, možda bismo se trebali pozvati na cijelu rečenicu koju je napisao Charles Dickens: “Bila su to najbolja vremena, bila su to najgora vremena, bilo je to doba mudrosti, bilo je to doba ludosti, bila je epoha vjerovanja, bila je to epoha nevjerice, bila je to sezona svjetla, bila je to sezona tame, bilo je proljeće nade, bila je to zima očaja.”

Nismo baš sigurni kamo idemo s AI. Neki kažu da će to biti najbolja stvar nakon rezanog kruha. Drugi upozoravaju da će umjetna inteligencija koju stvaramo predstavljati egzistencijalni rizik za opstanak čovječanstva. To su doista ili najbolja ili najgora vremena.

Nemojte se iznenaditi kada vidite da generativna umjetna inteligencija ispisuje upravo te riječi. Iznenadite se ako u zoološkom vrtu vidite majmune koji slučajno tipkaju na pisaćim strojevima i uspiju ispisati iste pronicljive riječi.

Molim vas, javite mi ako vidite da se to događa.

Spreman sam dugo čekati da se to dogodi, ali vjerojatno ne beskonačno.