Razlozi za regulaciju AI algoritama jednostavniji su nego što mislite

Brinete li se da će umjetna inteligencija zavladati svijetom? Mnogi to rade. Od brige Elona Muska DeepMind pobjeđuje ljude u naprednoj igri Go 2017., članovima Kongresa, kreatorima europske politike (vidi Europski pristup umjetnoj inteligenciji), i akademici, postoji osjećaj da je ovo desetljeće da se umjetna inteligencija shvaća ozbiljno, i da se ona uzima. No, ne iz razloga što mislite, a ne zbog bilo kakve sadašnje prijetnje.

Ovdje dolaze algoritmi. Što je algoritam, pitate se? Najjednostavniji način razmišljanja o tome je skup uputa koje strojevi mogu razumjeti i iz njih učiti. Već možemo uputiti stroj da izračunava, obrađuje podatke i razmišlja na strukturiran, automatiziran način. Međutim, problem je što će ih stroj slijediti nakon što su navedene upute. Za sada je to poanta. Za razliku od ljudi, strojevi slijede upute. Oni to ne uče dobro. Ali kada to učine, mogli bi uzrokovati probleme.

Ne želim iznositi senzacionalistički argument o ideji da će računala jednog dana nadmašiti ljudsku inteligenciju, poznatiju kao argument singularnosti (vidi NYU filozof David Chalmers' razmišljanja na temu.) Umjesto toga, proizvodnja bi mogla biti najbolji primjer zašto AI algoritmi počinju biti važniji široj javnosti. Strahuje se da će strojevi uvelike ubrzati svoju snagu na naš račun. Ne nužno nekim naprednim razmišljanjem, već zbog optimizacije unutar granica onoga što algoritam kaže.

Proizvodnja je stvaranje stvari. Ali kada strojevi prave stvari, moramo obratiti pažnju. Čak i ako je ono što strojevi prave jednostavno. Objasnit ću zašto.

Od čizama za kišu do mobitela i natrag

Recimo, tvornica proizvodi čizme za kišu. Obožavam čizme za kišu jer sam odrastao u području Norveške gdje pada puno kiše; Volim biti vani, podložan mnogim elementima prirode. Nokia je napravila čizme za kišu s kojima sam odrastao. Da, Nokia koju danas poznajemo kao elektronsku tvrtku koja je nekada proizvodila gumene čizme. Zašto je ovaj ključ? Jer kad jednom napravite nešto, suđeno vam je da želite poboljšati. To ima smisla. Moglo bi se reći da je to ljudska priroda.

Ono što se dogodilo Nokiji je dobro poznato i ide otprilike ovako: U početku je tvornica papira, dok sam ja bio dijete, proizvodnja gumenih čizama (i guma) bila posebno uspješna za tvrtku. Međutim, vidjeli su daljnje prilike. Stoga su u nekom trenutku 1980-ih prešli na elektroniku i brzo promijenili tvornice okolo, izgradivši veliku strukturu lokalnih dobavljača kada su počeli proizvoditi mobitele. To je pokrenulo revoluciju mobilnih komunikacija koja je započela u Skandinaviji i proširila se na ostatak svijeta. Razumljivo, mnogi su napisali priču o Nokiji 1990-ih (vidi Tajne iza finskog čuda: uspon Nokie).

Moj primjer je jednostavan. Možda, previše jednostavno. Ali razmislite o tome na ovaj način. Ako velika tvrtka može brzo prijeći od izrade papira do pisanja, do čizama koje olakšavaju izlazak na kišu, onda konačno, na mobitele koji mijenjaju način na koji ljudi komuniciraju: koliko će lagan biti sljedeći korak? Pretpostavimo da tvrtka koja proizvodi mobitele odluči napraviti nanobotove i možda će oni poletjeti za jedno desetljeće, mijenjajući čovječanstvo s minijaturnim strojevima koji autonomno trče posvuda, sposobnima ponovno sastaviti i promijeniti ljudsko iskustvo. Što ako se to dogodi bez razmatranja kako želimo da se to dogodi, tko želimo biti glavni i konačni ciljevi?

Sugerirati da su roboti svjesno pomogli Nokiji da se odluči za proizvodnju mobitela bilo bi teško. No priznanje da je tehnologija imala ulogu u dopuštanju finskom ruralnom području na svojoj sjevernoj obali da pomisli kako bi mogli steći svjetsku dominaciju u novoj industriji igra značajnu ulogu.

Nokija priča nije bila tako ružičasta tijekom posljednjeg desetljeća s obzirom na to da nisu uzeli u obzir pojavu softverski baziranih operacijskih sustava iOS i Android. Sada, kao rezultat toga, Nokia više ne proizvodi telefone. U pomalo povratničkoj priči, sada proizvode mrežnu i telekomunikacijsku infrastrukturu, mrežna sigurnosna rješenja, Wi-Fi usmjerivače, pametnu rasvjetu i pametne televizore (vidi Nokijina priča o povratku). Nokia još uvijek stvara stvari, to je istina. Jedina primjedba je da Nokia uvijek uživa u miješanju stvari koje prave. Čak je i proizvodne odluke ljudskih bića ponekad teško razumjeti.

Proizvodnja znači izrađivati ​​stvari i stvari se razvijaju. Općenito, ono što danas proizvodimo promijenilo se u odnosu na prije samo deset godina. 3D pisači su decentralizirali proizvodnju mnogih naprednih proizvoda, kako u industriji tako i kod kuće. Posljedice 3D ispisa koje mijenjaju život još se nisu dogodile. Ne znamo hoće li to trajati, ali znamo da je fokus FDA na reguliranju proizvodnje proizvoda (vidi ovdje) kao što su tiskane tablete ili medicinski uređaji koji slijede, očiti problemi intelektualnog vlasništva i odgovornosti ili problemi oko mogućnosti tiskanja vatrenog oružja. U konačnici, rasprava o politici o tome koje negativne posljedice 3D ispis može imati izvan ovoga ne postoji, a malo nas se o tome potrudilo razmišljati.

Ne sugeriram da je 3D ispis opasan sam po sebi. Možda je ovo loš primjer. Ipak, stvari koje u početku izgledaju svakodnevno mogu promijeniti svijet. Primjera je puno: vrh strijele lovca/sakupljača od metala koji pokreće ratove, ritualne maske koje nas štite od COVID-19, čavli koji grade nebodere, pokretne tiskarske preše koje (još uvijek) pune naše tvornice tiskanim papirom i pokreću izdavačka djelatnost, žarulje koje vam omogućuju da vidite i radite unutra noću, mogao bih nastaviti. Nitko za koga znam nije sjeo u kasne 1800-e i predvidio da će Nokia premjestiti svoju proizvodnju s papira na gumu i elektroniku, a zatim dalje od mobitela. Možda su trebali.

Ljudi su loši prediktori koraka promjene, procesa u kojem jedna promjena dovodi do više promjena, i odjednom, stvari su radikalno drugačije. Još ne razumijemo ovaj proces jer imamo malo praktičnog znanja o eksponencijalnoj promjeni; ne možemo to zamisliti, izračunati ili dokučiti. Međutim, uvijek nas iznova pogađa. Pandemije, rast stanovništva, tehnološke inovacije od tiskanja knjiga do robotike, obično nas pogađaju bez upozorenja.

Trik s futurizmom nije ako, nego kada. Promjenu bi se zapravo moglo predvidjeti samo odabirom novih proizvodnih metoda i izjavom da će one postati sve zastupljenije u budućnosti. To je dovoljno jednostavno. Teški dio je shvatiti kada točno i posebno kako.

Spajalice nisu problem

Razmotrimo ponovno moj tvornički primjer, ali ovaj put zamislite da su strojevi zaduženi za brojne odluke, ne sve odluke, već proizvodne odluke poput optimizacije. U svojoj knjizi Superinteligencija, distopijski humanist sa Sveučilišta Oxford Nick Bostrom slavno je zamislio algoritam za optimizaciju umjetne inteligencije koji pokreće tvornicu spajalica. U nekom trenutku, kaže, zamislite da je stroj razumio da je učenje preusmjeravanja sve većih resursa na zadatak racionalno, a na kraju postupno pretvara naš svijet u spajalice i odupire se našim pokušajima da ga isključimo.

Unatoč tome što je pametan tip, Bostromov primjer je prilično glup i obmanjujući (ipak, nezaboravan). Kao prvo, on ne uzima u obzir činjenicu da ljudi i roboti više nisu odvojeni entiteti. Mi smo u interakciji. Većina pametnih robota razvija se u kobote ili kolaborativne robote. Ljudi će imati mnogo prilika da isprave stroj. Ipak, njegova osnovna poanta ostaje. U nekom trenutku može doći do promjene koraka, a ako se ta promjena dogodi dovoljno brzo i bez dovoljnog nadzora, kontrola bi se mogla izgubiti. Ali taj se ekstremni ishod čini pomalo nategnutim. U svakom slučaju, slažem se, moramo regulirati ljude koji upravljaju ovim strojevima i naložiti da radnici uvijek budu u toku tako što ćemo ih na odgovarajući način obučiti. Takva vrsta treninga ne ide dobro. Trenutačno traje predugo i potrebne su specijalne vještine i za obuku i za obuku. Znam jednu stvar. U budućnosti će sve vrste ljudi upravljati robotima. Oni koji to ne čine, bit će prilično nemoćni.

Povećanje ljudi je bolje od bezumne automatizacije, bez obzira ako se nikada u potpunosti ne spojimo sa strojevima. Ova dva koncepta su logički različita. Moguće je da se i ljudi i roboti zaglave u automatizaciji radi automatizacije. To bi nanijelo veliku štetu proizvodnji u budućnosti. Čak i ako ne proizvodi robote ubojice. Vjerujem da je spajanje udaljeno stotinama godina, ali to nije poanta. Čak i ako je udaljen samo trideset godina, samohodni strojevi koji rade na pojednostavljenim algoritmima koji gube kontrolu, taj se scenarij već događa u pogonu. Neki od tih strojeva stari su trideset godina i rade na starim, vlasničkim sustavima upravljanja. Njihov glavni izazov nije u tome što su napredni nego upravo suprotno. Previše su jednostavni da bi mogli komunicirati. Ovo nije problem za sutra. To je već postojeći problem. Moramo otvoriti oči za to. Razmislite o tome sljedeći put kada zakoračite u gumene čizme.

Još uvijek imam svoje Nokia čizme iz 1980-ih. Imaju rupu u sebi, ali ih čuvam da se podsjetim odakle sam i koliko sam hodao. Kiša također stalno pada, a sve dok je dovoljno čista ne želim bolje rješenje od tih čizama. A opet, ja sam čovjek. Robot bi vjerojatno već krenuo dalje. Pitam se koja je AI verzija čizama za kišu. To nije mobitel. Nije senzor za kišu. Zapanjuje um.

Digitalne čizme danas znače da ih možete personalizirati jer imaju 3D ispisan dizajn. Postoje virtualne cipele koje postoje samo kao NFT-ovi (nezamjenjivi tokeni) kojima se može prodavati i trgovati. Vrhunske virtualne tenisice ovih dana vrijede 10,000 dolara (vidi Što su NFT tenisice i zašto vrijede 10,000 dolara?). Ne bojim ih se, ali trebam li se bojati? Ako virtualni svijet bude cijenjen više od fizičkog, možda ću i hoću. Ili bih trebao pričekati da budem zabrinut dok vlastiti avatar umjetne inteligencije ne kupi vlastitu NFT čizmu da se uhvati u koštac s “kišom”? Ako gradimo algoritme prema vlastitoj slici, vjerojatnije je da bi AI bio dobar u stvarima u kojima bismo željeli da smo dobri, ali obično nismo, kao što je kupovina dionica, izgradnja lojalnih prijateljstava (možda i s strojevima i s ljudima) i pamćenje stvari. Industrijski metaverzum mogao bi biti iznenađujuće sofisticiran – pun digitalnih blizanaca koji oponašaju naš svijet i nadmašuju ga na plodonosne načine – ili bi mogao biti šokantno jednostavan. Možda oboje. Samo još ne znamo.

Moramo regulirati AI algoritme jer ne znamo što je iza ugla. To je dovoljan razlog, ali što se tiče toga kako to radimo, to je duža priča. Dopustite mi još jedno kratko zapažanje, možda bi svi temeljni algoritmi trebali biti javno dostupni. Razlog je, ako ne, ne postoji način da se zna do čega bi mogle dovesti. Vrhunski su prilično poznati (vidi 10 najboljih algoritama strojnog učenja), ali ne postoji svjetski pregled gdje i kako će se koristiti. Posebno treba pažljivo pratiti nenadzirane algoritme (vidi Šest moćnih slučajeva uporabe za strojno učenje u proizvodnji), bilo da se koriste za predviđanje održavanja ili kvalitete, za simulaciju proizvodnih okruženja (npr. digitalnih blizanaca) ili za generiranje novih dizajna na koje čovjek nikada ne bi pomislio. U današnjem krajoliku, ovi nenadzirani algoritmi su obično takozvane umjetne neuronske mreže koje pokušavaju oponašati ljudski mozak.

Počeo sam brinuti o neuronskim mrežama, samo zato što mi je teško razumjeti njihovu logiku. Problem je u tome što većina stručnjaka, čak i oni koji ih implementiraju, ne razumiju kako se ti algoritmi kreću od koraka do koraka ili sloja do sloja. Mislim da metafora “skrivenih slojeva”, koja se često koristi, nije baš prikladna ili vrlo smiješna. Za početak, ne bi trebalo biti skrivenih slojeva u proizvodnji, automatiziranom prikupljanju poreza, odlukama o zapošljavanju ili upisu na fakultet. Možda biste i vi trebali razmisliti o tome da se zabrinete? Jedno je sigurno, ljudi i strojevi koji stvaraju stvari zajedno će promijeniti svijet. Već jeste, višestruko. Od papira do čizama za kišu, i slojeva današnjeg umjetnog mozga, ništa ne smije ostati neistraženo. Ne trebamo se skrivati ​​od jednostavne činjenice da se iz mnogo malih promjena odjednom može pojaviti veća promjena.