Generative AI ChatGPT će biti posvuda nakon što se API portal uskoro otvori, zapanjujući etiku umjetne inteligencije i zakon o umjetnoj inteligenciji

Pusti Krakena!

Nedvojbeno ste upoznati s tom poznatom krilaticom koju je posebno izgovorio glumac Liam Neeson u Sukob Titana kada zapovijeda da se oslobodi legendarno morsko čudovište, s ciljem da izazove ogromnu pustoš i ogromno uništenje. Redak se beskrajno ponavlja i iznjedrio je svakakve memee. Unatoč raznim parodijama, većina ljudi još uvijek barem intuitivno osjeća da primjedba predviđa nešto poput mračne i opasne pojave koja će se uskoro osloboditi.

Možda se isti osjećaj ovih dana može primijeniti na umjetnu inteligenciju (AI).

Dopustite mi da elaboriram.

Nedavna najava je pokazala da će sada već odjekujuća poznata AI aplikacija pod nazivom ChatGPT koju je izradila organizacija OpenAI uskoro biti dostupna za pristup drugim programima. Ovo je velika vijest. Kažem ovo iako je malo redovnih medija propratilo tu izjavu. Osim kratkog spominjanja, puni učinak ovog nadolazećeg pristupa bit će prokleto značajan.

U današnjoj kolumni objasnit ću zašto je to tako. Možete se pripremiti u skladu s tim.

Neki čvrsto vjeruju da će ovo biti slično puštanju Krakena, naime da će se pojaviti svakakve loše stvari. Drugi to vide kao stavljanje na raspolaganje ključnog resursa koji može poboljšati mnoštvo drugih aplikacija iskorištavanjem velikih mogućnosti ChatGPT-a. Ili su najgora ili najbolja vremena. Ovdje ćemo razmotriti obje strane rasprave, a vi možete sami odlučiti u koji ćete tabor pripasti.

U sve ovo dolazi niz razmatranja etike umjetne inteligencije i zakona o umjetnoj inteligenciji.

Imajte na umu da su u tijeku napori da se etička AI načela ugrade u razvoj i primjenu AI aplikacija. Sve veći kontingent zabrinutih i nekadašnjih etičara umjetne inteligencije pokušava osigurati da napori za osmišljavanje i usvajanje umjetne inteligencije uzimaju u obzir gledište o AI za dobro i odvraćanje AI za loše. Isto tako, postoje prijedlozi novih zakona o umjetnoj inteligenciji koji se vrte okolo kao potencijalna rješenja za sprječavanje pokušaja umjetne inteligencije da ne polude po pitanju ljudskih prava i slično. Za moje kontinuirano i opsežno pokrivanje AI etike i AI zakona, pogledajte link ovdje i link ovdje, Samo da spomenemo nekoliko.

Sve je više zabrinutosti da ChatGPT i druge slične AI aplikacije imaju ružnu podlogu s kojom se možda nismo spremni nositi. Na primjer, možda ste čuli da učenici u školama potencijalno mogu varati kada je riječ o pisanju zadanih eseja putem ChatGPT-a. AI sve piše umjesto njih. U međuvremenu, učenik je u stanju naizgled bez ikakvih problema okretati esej kao da je pisao iz vlastite noge. Nije ono što vjerojatno želimo da umjetna inteligencija učini za čovječanstvo.

Nekoliko ključnih bitnih stvari moglo bi biti od pomoći u postavljanju temelja za ono o čemu se ovdje radi.

ChatGPT je vrsta umjetne inteligencije koja se obično naziva Generativna AI. Ove trendovske generativne AI aplikacije omogućuju vam da unesete kratki upit i da aplikacija generira rezultate za vas. U slučaju ChatGPT-a, izlaz je tekst. Dakle, vi unosite tekstualni upit, a aplikacija ChatGPT proizvodi tekst za vas. Sklon sam to opisati kao posebnu podvrstu generativne umjetne inteligencije koja je usavršena za generiranje izlaza teksta u esej (postoje i druge podvrste kao što su tekst u slike, tekst u video i tako dalje).

Proizvođač AI aplikacije ChatGPT je naznačio da će API (Application Programming Interface) uskoro biti dostupan za AI aplikaciju. Ukratko, API je sredstvo koje omogućuje drugim programima da nastave i koriste program koji čini dostupnim portal u danoj aplikaciji. To znači da gotovo bilo koji drugi program na ovom planetu može potencijalno iskoristiti korištenje ChatGPT-a (dobro, ako je licenciran i nakon odobrenja proizvođača AI-a ChatGPT-a, o čemu će se ovdje dalje raspravljati).

Rezultat je da bi upotreba i upotrebe ChatGPT-a potencijalno mogli pucati u vodu.

Dok danas postoji impresivan broj prijava koje uključuju ljude koji na pojedinačno Temelj može koristiti ChatGPT, ograničen od strane proizvođača umjetne inteligencije na milijun korisnika, ovo će zapravo vjerojatno biti kap u čaši onoga što će se dogoditi.

Shvatite da se ti postojeći milijuni prijava sastoje od dijela koji je koristio ChatGPT u jednokratnoj zabavi, a nakon što je uzbuđenje nestalo, od tada ga više nisu koristili. Mnoge je vjerojatno privukla AI aplikacija kao virusni odgovor društvenih medija. Ukratko, ako su ga svi drugi željeli koristiti, i oni su to željeli učiniti. Nakon nekog početnog eksperimentiranja s generativnom umjetnom inteligencijom, bili su zadovoljni što su spriječili svoj FOMO (strah od propuštanja).

Da budem krajnje jasan, ne sugeriram da ljudi ne koriste ChatGPT. Oni su. Oni koji su se prijavili sve češće otkrivaju da je AI aplikacija preopterećena. Puno i puno ljudi koristi aplikaciju. S vremena na vrijeme dobijete nekoliko vješto sastavljenih žalosnih naznaka da je sustav zauzet i da biste trebali pokušati kasnije. Priča se da se postojeća infrastruktura za ChatGPT napreže kako bi se nosila s strastvenim obožavateljima koji koriste AI aplikaciju.

I premda imati milijun potencijalnih korisnika nije ništa za kihanje, brojka će vjerojatno biti višestruko zasjenjena nakon što API bude dostupan. Razvojni programeri drugih programa koji danas nemaju nikakve veze s generativnom umjetnom inteligencijom htjet će se uključiti u generativnu umjetnu inteligenciju. Oni će htjeti povezati svoj program s ChatGPT-om. Njihovo srce se nada da će ovo podići njihov postojeći program u stratosferu popularnosti.

Zamislite to na ovaj način. Pretpostavimo da se sve vrste softverskih tvrtki koje danas izrađuju programe koji dopiru do mnogo milijuna korisnika, često dopiru do desetaka i stotina milijuna svih korisnika, odluče upariti svoje odgovarajuće programe s ChatGPT-om. Ovo sugerira da bi broj korisnika koji koriste ChatGPT mogao porasti u nebo.

Kraken je pušten.

Zašto bi se razne softverske tvrtke željele upariti s ChatGPT-om, možda se pitate?

Jednostavan odgovor je da bi isto tako mogli iskoristiti nevjerojatne vjetrove koji guraju ChatGPT naprijed i gore. Neki će to učiniti iz razumnih i uzvišenih razloga. Drugi će to učiniti samo kako bi pokušali steći vlastiti privid petnaest minuta slave.

Volim stratificirati parove za ChatGPT kao da se sastoje od dvije glavne namjere:

• Pravo uparivanje s ChatGPT-om
• Lažno uparivanje s ChatGPT-om

U prvom slučaju, mišljenje je da postoji osnova u dobroj vjeri za uparivanje s ChatGPT-om. Tvorci određenog programa sposobni su dobro artikulirati opipljive i funkcionalne prednosti koje će nastati zbog uparivanja njihovog programa s ChatGPT-om. Svi mi u razumnom stanju uma možemo vidjeti da je uparivanje spoj stvoren na nebu.

Za drugi slučaj, koji se sastoji od onoga što ja označavam kao lažiranje, neki će se pokušati upariti s ChatGPT-om na nesigurnoj ili nesigurnoj osnovi. Poslovni slučaj se ne sastoji ni od čega posebno značajnog. Uparivanje je očajnički pokušaj jahanja na repovima ChatGPT-a. Svaka razumna inspekcija otkrila bi da je uparivanje marginalne vrijednosti. Dakle, mislite li da je ovo ispravan ili nepravilan oblik uparivanja, pomalo visi u zraku. Moglo bi se pokušati tvrditi da je određeno uparivanje s ChatGPT-om, čak i ako uparivanje ne postiže ništa osim povećanja upotrebe i nema nikakvu drugu funkcionalnu dodatnu vrijednost, vjerojatno uparivanje još uvijek vrijedno poduhvata.

Pomalo loša strana bit će oni koji lažno prikazuju uparivanje i navode ljude da povjeruju da se događa nešto značajno, a zapravo nije. Svakako možemo očekivati ​​da će neki to pokušati. Oni u Etici umjetne inteligencije jako su zabrinuti zbog korištenja zmijskog ulja koje će proizaći iz okvira. Također postoji šansa da ćemo, ako ovo izmakne kontroli, vidjeti nove zakone vezane uz AI koji će biti potaknuti na izradu i donošenje.

Idemo pobliže istražiti što se sastoji od originalnih parova, a što također čini lažnih parova.

Prvo, trebali bismo biti sigurni da smo svi na istoj stranici o tome od čega se sastoji Generative AI i što je ChatGPT. Nakon što pokrijemo taj temeljni aspekt, možemo izvesti uvjerljivu procjenu kako će API u ChatGPT-u radikalno promijeniti stvari.

Ako ste već dobro upoznati s Generative AI i ChatGPT-om, možda možete preletjeti sljedeći odjeljak i nastaviti s odjeljkom koji ga slijedi. Vjerujem da će svi ostali pronaći poučne vitalne pojedinosti o ovim stvarima ako pomno pročitaju odjeljak i uđu u korak.

Brzi uvod o generativnoj umjetnoj inteligenciji i ChatGPT-u

ChatGPT je općenamjenski AI interaktivni sustav orijentiran na razgovor, u biti naizgled bezopasan opći chatbot, no bez obzira na to, ljudi ga aktivno i pohlepno koriste na načine koji mnoge uhvate potpuno nespremne, kao što ću uskoro objasniti. Ova AI aplikacija koristi tehniku ​​i tehnologiju u području umjetne inteligencije koja se često naziva Generativna AI. AI generira rezultate kao što je tekst, a to je ono što ChatGPT radi. Druge generativne AI aplikacije proizvode slike kao što su slike ili umjetnička djela, dok druge generiraju audio datoteke ili videozapise.

Usredotočit ću se na tekstualne generativne AI aplikacije u ovoj raspravi budući da to radi ChatGPT.

Generativne AI aplikacije iznimno su jednostavne za korištenje.

Sve što trebate učiniti je unijeti upit i AI aplikacija će za vas generirati esej koji pokušava odgovoriti na vaš upit. Složeni tekst će djelovati kao da je esej napisan ljudskom rukom i umom. Ako biste unijeli upit koji kaže "Pričaj mi o Abrahamu Lincolnu", generativna umjetna inteligencija će vam dati esej o Lincolnu. Ovo se obično klasificira kao generativna umjetna inteligencija koja djeluje tekst-u-tekst ili neki to radije nazivaju tekst-u-esej izlaz. Kao što je spomenuto, postoje i drugi načini generativne umjetne inteligencije, kao što su tekst u umjetnost i tekst u video.

Vaša prva pomisao mogla bi biti da se ova generativna sposobnost ne čini tako važnom u smislu stvaranja eseja. Možete jednostavno pretražiti Internet i lako pronaći tone i tone eseja o predsjedniku Lincolnu. Ono što je zanimljivo u slučaju generativne umjetne inteligencije je to što je generirani esej relativno jedinstven i pruža originalnu kompoziciju, a ne kopiju. Kad biste negdje na internetu pokušali pronaći esej koji je izradila umjetna inteligencija, teško da biste ga otkrili.

Generativna umjetna inteligencija unaprijed je obučena i koristi složenu matematičku i računsku formulaciju koja je postavljena ispitivanjem obrazaca u pisanim riječima i pričama diljem weba. Kao rezultat ispitivanja tisuća i milijuna pisanih odlomaka, AI može izbaciti nove eseje i priče koji su mješavina onoga što je pronađeno. Dodavanjem raznih probabilističkih funkcionalnosti, rezultirajući tekst je prilično jedinstven u usporedbi s onim što je korišteno u skupu za obuku.

Zato se digla galama oko toga da učenici mogu varati kad pišu eseje izvan učionice. Nastavnik ne može samo uzeti esej za koji lažljivi učenici tvrde da je njihov vlastiti spis i tražiti je li kopiran iz nekog drugog internetskog izvora. Općenito, na internetu neće biti konačnog postojećeg eseja koji bi odgovarao eseju generiranom umjetnom inteligencijom. Sve u svemu, učitelj će morati nerado prihvatiti da je učenik napisao esej kao originalan rad.

Postoje dodatne brige o generativnoj umjetnoj inteligenciji.

Jedna ključna mana je da eseji koje proizvodi generativna AI aplikacija mogu sadržavati različite neistine, uključujući očigledno neistinite činjenice, činjenice koje su krivo prikazane i očite činjenice koje su u potpunosti izmišljene. Ti izmišljeni aspekti često se nazivaju oblikom AI halucinacije, krilatica koju ne volim, ali nažalost svejedno postaje popularna (za moje detaljno objašnjenje o tome zašto je ovo loša i neprikladna terminologija, pogledajte moje izvješće na link ovdje).

Želio bih razjasniti jedan važan aspekt prije nego što uđemo u središte stvari o ovoj temi.

Na društvenim mrežama pojavile su se neke sulude pretjerane tvrdnje o tome Generativna AI tvrdeći da je ova najnovija verzija umjetne inteligencije zapravo osjećajna umjetna inteligencija (ne, nisu u pravu!). Oni iz Etike umjetne inteligencije i Prava umjetne inteligencije posebno su zabrinuti zbog ovog rastućeg trenda otvorenih tvrdnji. Mogli biste pristojno reći da neki ljudi preuveličavaju što današnja umjetna inteligencija zapravo može učiniti. Pretpostavljaju da AI ima sposobnosti koje mi još nismo uspjeli postići. To je nesretno. Što je još gore, mogu sebi i drugima dopustiti da dođu u strašne situacije zbog pretpostavke da će umjetna inteligencija biti osjećajna ili slična ljudima da bi mogla djelovati.

Nemojte antropomorfizirati AI.

Ako to učinite, uhvatit ćete se u ljepljivu i turobnu zamku očekivanja da umjetna inteligencija radi stvari koje nije u stanju izvesti. Uz to, najnovija generativna umjetna inteligencija je relativno impresivna za ono što može učiniti. Imajte na umu da postoje značajna ograničenja koja biste trebali stalno imati na umu kada koristite bilo koju generativnu AI aplikaciju.

Ako ste zainteresirani za brzo širenje meteža oko ChatGPT-a i Generative AI-a, radio sam fokusiranu seriju u svojoj kolumni koja bi vam mogla biti informativna. Evo kratkog pregleda u slučaju da vam se neka od ovih tema dopadne:

• 1) Predviđanja o napretku generativne umjetne inteligencije koja dolazi. Ako želite znati što će se vjerojatno odvijati u vezi s umjetnom inteligencijom tijekom 2023. i kasnije, uključujući nadolazeći napredak u generativnoj umjetnoj inteligenciji i ChatGPT-u, htjet ćete pročitati moj opsežan popis predviđanja za 2023. na link ovdje.
• 2) Generativna umjetna inteligencija i savjeti za mentalno zdravlje. Odlučio sam pregledati kako se generativna umjetna inteligencija i ChatGPT koriste za savjete o mentalnom zdravlju, što je problematičan trend, prema mojoj fokusiranoj analizi na link ovdje.
• 3) Osnove generativne umjetne inteligencije i ChatGPT-a. Ovaj članak istražuje ključne elemente načina na koji generativna umjetna inteligencija funkcionira i posebno se bavi aplikacijom ChatGPT, uključujući analizu žamora i fanfara, na link ovdje.
• 4) Napetost između nastavnika i učenika oko generativne umjetne inteligencije i ChatGPT-a. Ovo su načini na koje će studenti lukavo koristiti generativni AI i ChatGPT. Osim toga, evo načina na koje se učitelji mogu nositi s ovim plimnim valom. Vidjeti link ovdje.
• 5) Kontekst i generativna upotreba umjetne inteligencije. Također sam obavio sezonsko ispitivanje o kontekstu povezanom s Djedom Božićnjakom koji uključuje ChatGPT i generativni AI na link ovdje.
• 6) Prevaranti koji koriste generativnu umjetnu inteligenciju. Zloslutno, neki su prevaranti smislili kako koristiti generativnu umjetnu inteligenciju i ChatGPT za nedjela, uključujući generiranje prijevarnih e-poruka, pa čak i izradu programskog koda za zlonamjerni softver, pogledajte moju analizu na link ovdje.
• 7) Pogreške početnika u korištenju generativne umjetne inteligencije. Mnogi ljudi pretjeraju i iznenađujuće podcjenjuju ono što generativni AI i ChatGPT mogu učiniti, pa sam se posebno osvrnuo na nedostatke koje AI početnici obično čine, pogledajte raspravu na link ovdje.
• 8) Suočavanje s generativnim AI zahtjevima i AI halucinacijama. Opisujem vodeći pristup korištenju AI dodataka za rješavanje raznih problema povezanih s pokušajem unosa prikladnih upita u generativni AI, plus tu su i dodatni AI dodaci za otkrivanje takozvanih AI haluciniranih rezultata i neistina, kao pokriveno na link ovdje.
• 9) Razotkrivanje tvrdnji Boneheada o otkrivanju generativnih eseja proizvedenih umjetnom inteligencijom. Postoji pogrešna zlatna groznica aplikacija umjetne inteligencije koje tvrde da mogu utvrditi je li neki esej proizveo čovjek ili generirao umjetna inteligencija. Sve u svemu, ovo je obmanjujuće, au nekim slučajevima i glupa i neodrživa tvrdnja, pogledajte moje izvješće na link ovdje.
• 10) Igranje uloga putem generativne umjetne inteligencije moglo bi nagovijestiti probleme mentalnog zdravlja. Neki koriste generativnu umjetnu inteligenciju kao što je ChatGPT za igranje uloga, pri čemu aplikacija umjetne inteligencije reagira na čovjeka kao da postoji u svijetu mašte ili drugom izmišljenom okruženju. Ovo bi moglo imati posljedice na mentalno zdravlje, vidite link ovdje.
• 11) Razotkrivanje raspona izlaznih pogrešaka i neistina. Sastavljaju se različiti prikupljeni popisi kako bi se pokušala pokazati priroda pogrešaka i neistina koje proizvodi ChatGPT. Neki vjeruju da je to bitno, dok drugi kažu da je vježba uzaludna, pogledajte moju analizu na link ovdje.
• 12) Škole koje zabranjuju Generative AI ChatGPT nedostaju. Možda znate da su razne škole, poput Ministarstva obrazovanja grada New Yorka (NYC), proglasile zabranu korištenja ChatGPT-a na svojoj mreži i povezanim uređajima. Iako se ovo može činiti korisnom mjerom opreza, neće pomaknuti iglu i nažalost potpuno promašiti brod, pogledajte moje izvješće na link ovdje.

Moglo bi vam biti zanimljivo da se ChatGPT temelji na verziji prethodne AI aplikacije poznate kao GPT-3. ChatGPT se smatra malo sljedećim korakom, naziva se GPT-3.5. Predviđa se da će GPT-4 vjerojatno biti objavljen u proljeće 2023. Pretpostavlja se da će GPT-4 biti impresivan korak naprijed u smislu mogućnosti stvaranja naizgled još tečnijih eseja, zalaženja dublje i izazivanja strahopoštovanja - nadahnjujuće čudo što se tiče skladbi koje može proizvesti.

Možete očekivati ​​da ćete vidjeti novu rundu izraženog čuđenja kada dođe proljeće i bude objavljen najnoviji generativni AI.

Pominjem ovo jer postoji još jedan kut koji treba imati na umu, a koji se sastoji od potencijalne Ahilove pete za ove bolje i veće generativne AI aplikacije. Ako bilo koji dobavljač umjetne inteligencije učini dostupnom generativnu AI aplikaciju koja zapjenjeno izbacuje prljavštinu, to bi moglo srušiti nade tih proizvođača umjetne inteligencije. Društveno prelijevanje može uzrokovati da sva generativna umjetna inteligencija dobije ozbiljnu modricu na oku. Ljudi će se nedvojbeno jako uzrujati zbog pogrešnih rezultata, koji su se već dogodili mnogo puta i doveli do burnog društvenog osuđivanja AI-ja.

Jedno posljednje upozorenje za sada.

Što god vidite ili pročitate u generativnom AI odgovoru koji Čini se prenijeti kao čisto činjenično (datumi, mjesta, ljudi itd.), budite sigurni da ostanete skeptični i budite voljni još jednom provjeriti ono što vidite.

Da, datumi se mogu izmisliti, mjesta se mogu izmisliti, a elementi za koje obično očekujemo da će biti nezamjerljivi su svi predmet sumnje. Ne vjerujte onome što čitate i budite skeptični kada ispitujete bilo kakve generativne AI eseje ili rezultate. Ako vam generativna AI aplikacija kaže da je Abraham Lincoln obletio zemlju u vlastitom privatnom mlažnjaku, nedvojbeno biste znali da je to malarkija. Nažalost, neki ljudi možda neće shvatiti da u njegovo vrijeme nisu postojali mlažnjaci, ili možda znaju, ali ne primjećuju da se u eseju iznosi ova drska i nečuveno lažna tvrdnja.

Jaka doza zdravog skepticizma i uporni mentalni sklop nevjerice bit će vaša najbolja prednost kada koristite generativnu umjetnu inteligenciju.

Spremni smo prijeći u sljedeću fazu ovog razjašnjenja.

Oslobađanje zvijeri

Sada kada smo uspostavili temelje, možemo zaroniti u poslovno orijentirane i društvene posljedice zbog aspekata ChatGPT API-ja.

Nedavno je Microsoft u suradnji s OpenAI-om objavio najavu o nadolazećoj dostupnosti ChatGPT-a na Microsoftovoj platformi oblaka Azure (prema online objavi pod naslovom "Opća dostupnost usluge Azure OpenAI proširuje pristup velikim, naprednim modelima umjetne inteligencije s dodatnim pogodnostima za poduzeća", 16. siječnja 2023.):

• „Veliki jezični modeli brzo postaju bitna platforma za ljude za inovacije, primjenu umjetne inteligencije za rješavanje velikih problema i zamišljanje onoga što je moguće. Danas s uzbuđenjem najavljujemo opću dostupnost usluge Azure OpenAI kao dio Microsoftove kontinuirane predanosti demokratizaciji umjetne inteligencije i trajnog partnerstva s OpenAI-jem. S Azure OpenAI uslugom koja je sada općenito dostupna, više tvrtki može se prijaviti za pristup najnaprednijim modelima umjetne inteligencije na svijetu—uključujući GPT-3.5, Codex i DALL•E 2—potpomognutim pouzdanim mogućnostima razine poduzeća i infrastrukturom optimiziranom za umjetnu inteligenciju Microsoft Azure, za stvaranje vrhunskih aplikacija. Kupci će također moći pristupiti ChatGPT-u — fino podešenoj verziji GPT-3.5 koja je obučena i izvodi zaključke na Azure AI infrastrukturi — putem Azure OpenAI usluge uskoro.”

Možda ste primijetili u toj izjavi da će druge razne AI aplikacije koje je osmislio OpenAI također biti dostupne. Doista, neke od tih AI aplikacija već su dostupne već neko vrijeme, kao što je spomenuto dalje u nedavnoj gornjoj izjavi: “Debitirali smo Azure OpenAI Service u studenom 2021. kako bismo korisnicima omogućili da iskoriste snagu velikih generativnih AI modela s poduzeće obećava da su korisnici očekivali od našeg Azure oblaka i računalne infrastrukture—sigurnost, pouzdanost, usklađenost, privatnost podataka i ugrađene mogućnosti Responsible AI” (ibid).

Ranije sam spomenuo da i Etika umjetne inteligencije i Zakon o umjetnoj inteligenciji pokušavaju uravnotežiti AI za dobro težnje s potencijalom AI za loše koje se ponekad mogu pojaviti. Unutar područja umjetne inteligencije, postoji pokret prema imanju Odgovorna umjetna inteligencija ili ponekad skovan kao pouzdana umjetna inteligencija ili umjetna inteligencija usmjerena na čovjeka, pogledajte moje izvješće na link ovdje. Pozivaju se svi proizvođači umjetne inteligencije da osmisle i usmjere svoju umjetnu inteligenciju AI za dobro i nastoje otvoreno ograničiti ili ublažiti bilo koji AI za loše koje bi se mogle pojaviti.

Ovo je težak zadatak.

U svakom slučaju, gore spomenuta izjava se odnosila na razmatranja odgovorne umjetne inteligencije:

• “Kao vodeći u industriji, prepoznajemo da se svaka inovacija u umjetnoj inteligenciji mora izvesti odgovorno. To postaje još važnije sa snažnim, novim tehnologijama poput generativnih modela. Zauzeli smo iterativni pristup velikim modelima, blisko surađujući s našim partnerom OpenAI i našim klijentima kako bismo pažljivo procijenili slučajeve upotrebe, naučili i riješili potencijalne rizike. Osim toga, implementirali smo vlastite zaštitne ograde za Azure OpenAI uslugu koje su u skladu s našim načelima odgovorne umjetne inteligencije. Kao dio našeg okvira ograničenog pristupa, programeri su dužni podnijeti zahtjev za pristup, opisujući svoj namjeravani slučaj upotrebe ili aplikaciju prije nego što dobiju pristup usluzi. Filtri sadržaja jedinstveno dizajnirani za hvatanje uvredljivog sadržaja, sadržaja pun mržnje i uvredljivog sadržaja neprestano nadziru unos koji se pruža usluzi kao i generirani sadržaj. U slučaju potvrđenog kršenja pravila, možemo zatražiti od programera da odmah poduzme radnje kako bi spriječio daljnje zlouporabe” (ibid).

Suština te perspektive odgovorne umjetne inteligencije je da zahtijevanjem službenog zahtjeva za pristup ChatGPT-u na osnovi programskog API-ja, postoji šansa za uklanjanje neugodnih podnesaka. Ako postoji odgovarajuća dužna pažnja pri odabiru koje druge tvrtke i njihovi programi mogu pristupiti ChatGPT-u, možda postoji velika šansa da se spriječi puni gnjev puštenog Krakena.

Mozda da mozda ne.

Neki stručnjaci krše ruke da će mogućnosti zarađivanja novca dopuštanjem da se ChatGPT API stavi u upotrebu opteretiti ideju protuteže želje da se zvijer razumno i sigurno drži pod kontrolom. Hoće li ispitivanje uistinu biti dovoljno pažljivo unaprijed? Možemo li umjesto toga vidjeti da dolazi do labavog procesa odobravanja kako količina zahtjeva izmiče kontroli? Neki se boje da bi tek nakon što mačka izađe iz vreće moglo doći do zakašnjelog detaljnijeg pregleda, iako će tada šteta već biti učinjena.

Pa, možete barem odati dužno priznanje tome što je uključen postupak provjere. Postoje neke generativne AI aplikacije koje ili nemaju koherentan postupak provjere ili su površne prirode. Osim toga, postoje open-source verzije generativne umjetne inteligencije koje općenito može koristiti gotovo svatko tko to želi, iako bi se trebalo pridržavati nekih minimalnih ograničenja licenciranja (pokušati to provesti je teže nego što se čini).

Pogledajmo na brzinu postojeća pravila koja se tiču ​​ograničavanja pristupa usluzi Azure OpenAI da vidimo što će drugi proizvođači softvera morati učiniti da se potencijalno povežu s ChatGPT-om. Prema online objavljenim Microsoftovim pravilima (posljednja objava označena kao 14. prosinca 2022.):

• “Kao dio Microsoftove predanosti odgovornoj umjetnoj inteligenciji, dizajniramo i izdajemo uslugu Azure OpenAI s namjerom zaštite prava pojedinaca i društva te poticanja transparentne interakcije između čovjeka i računala. Iz tog razloga trenutačno ograničavamo pristup i upotrebu Azure OpenAI-a, uključujući ograničavanje pristupa mogućnosti izmjene filtara sadržaja i izmjene praćenja zloupotrebe. Azure OpenAI zahtijeva registraciju i trenutno je dostupan samo upravljanim klijentima i partnerima koji rade s Microsoftovim timovima za račune. Kupci koji žele koristiti Azure OpenAI moraju predati obrazac za registraciju i za početni pristup za eksperimentiranje i za odobrenje prijelaza s eksperimentiranja na proizvodnju.”
• “Za eksperimentiranje, korisnici potvrđuju da koriste uslugu samo za namjeravanu upotrebu dostavljenu u trenutku registracije i obvezuju se na uključivanje ljudskog nadzora, jakih tehničkih ograničenja ulaza i izlaza, kanala povratnih informacija i temeljitog testiranja. Za proizvodnju, kupci objašnjavaju kako su oni implementirani za smanjenje rizika. Korisnici koji žele izmijeniti filtre sadržaja i izmijeniti praćenje zloupotrebe nakon što su se uključili u uslugu podliježu dodatnim ograničenjima scenarija i moraju se registrirati ovdje.”
• “Pristup usluzi Azure OpenAI podložan je isključivom Microsoftovom nahođenju na temelju kriterija podobnosti i procesa provjere, a korisnici moraju potvrditi da su pregledali i prihvatili Azure uvjete pružanja usluge za uslugu Azure OpenAI. Microsoft može zahtijevati od kupaca da ponovno provjere ove informacije. Usluga Azure OpenAI dostupna je korisnicima prema uvjetima koji reguliraju njihovu pretplatu na usluge Microsoft Azure, uključujući odjeljak Azure OpenAI u Uvjetima proizvoda tvrtke Microsoft. Pažljivo pregledajte ove uvjete jer sadrže važne uvjete i obveze koje reguliraju vašu upotrebu usluge Azure OpenAI.”

To je na Microsoftovoj strani stvari.

OpenAI također ima svoja pravila korištenja povezana sa svojim API-jem:

• “Želimo da svi mogu koristiti naš API sigurno i odgovorno. U tu smo svrhu izradili pravila o slučaju i sadržaju. Slijedeći ih, pomoći ćete nam da osiguramo da se naša tehnologija koristi za dobro. Ako otkrijemo da vaš proizvod nije u skladu s ovim pravilima, zatražit ćemo od vas da napravite potrebne izmjene. Ako se ne pridržavate, možemo poduzeti daljnje radnje, uključujući ukidanje vašeg računa.”
• "Zabranjujemo građevinske proizvode koji ciljaju sljedeće slučajeve uporabe:"
• “— Ilegalne ili štetne industrije”
• “— Zlouporaba osobnih podataka”
• “— Promicanje nepoštenja”
• “— Obmanjivanje ili manipuliranje korisnicima”
• “— Pokušaj utjecaja na politiku”
• “Sljedeći skup slučajeva korištenja nosi veći rizik od potencijalne štete: kazneno pravosuđe, provedba zakona, pravne, državne i državne službe, zdravstvena skrb, terapija, wellness, treniranje, financije, vijesti. Za ove slučajeve upotrebe morate:"
• "1) Temeljito testirajte naše modele na točnost u vašem slučaju upotrebe i budite transparentni sa svojim korisnicima o ograničenjima"
• “2) Pobrinite se da vaš tim ima stručnost u području i razumije/slijedi relevantne zakone”
• "Također ne dopuštamo vama ili krajnjim korisnicima vaše aplikacije da generirate sljedeće vrste sadržaja:"
• “— Mržnja”
• “— Uznemiravanje”
• “— Nasilje”
• “— Samoozljeđivanje”
• “— Seksualno”
• “— politički”
• “— Spam”
• "- Prijevara"
• “— Malware”

Veliko će pitanje biti mogu li se ovi ideali ostvariti ako postoji žarka navala zahtjeva za povezivanje s ChatGPT-om. Možda će doći do ogromnog tsunamija zahtjeva. Ljudski rad da se ispita i pažljivo ispita svaki od njih mogao bi biti skup i težak za upravljanje. Hoće li želja da se bude primjereno restriktivan razvodniti, nenamjerno pred golemom potražnjom za pristupom?

Kako glasi poznata duhovitost, najbolji se planovi ponekad mogu razvrgnuti nakon prvog kontakta s obilnim snagama.

Također postoji dosta prostora za tumačenje navedenih pravila. Kao što smo općenito vidjeli o porastu dezinformacija i dezinformacija, pokušaj odvajanja žita od kukolja može biti prilično izazovan. Kako utvrditi pridržava li se generirani sadržaj ili krši odredbe da ne bude mržnja, politički, obmanjujući i slično?

Prijeteća poteškoća mogla bi biti da ako se ChatGPT API stavi na raspolaganje proizvođaču softvera koji uparuje svoj program s ChatGPT-om, a rezultirajući rezultat nedvosmisleno krši navedena pravila, hoće li konj već izaći iz staje? Neki sugeriraju da postoji velika mogućnost narušavanja ugleda svih uključenih strana. Nejasno je može li se to prevladati jednostavnim isključivanjem API-ja za tog određenog prekršitelja. Šteta bi se, u određenom smislu, mogla zadržati i pokvariti bačvu. Dosta će krivnje biti upućeno svima koji dolaze.

Stratifikacija uparivanja API-ja

Ranije sam primijetio da se uparivanja s ChatGPT-om mogu zgodno grupirati u dvije glavne namjere:

• Pravo uparivanje s ChatGPT-om
• Lažno uparivanje s ChatGPT-om

Ispitajmo najprije prave ili vjerodostojne parove.

Kao pozadina, način na koji se to događa donekle je jednostavan. Aplikacija ChatGPT omogućuje drugim programima da je pozovu. Obično bi se to sastojalo od recimo programa koji ćemo nazvati Widget koji prosljeđuje ChatGPT-u upit u tekstualnom formatu, a zatim nakon što ChatGPT obavi svoje, esej ili tekst se vraćaju u program Widget. To je gotovo kao da osoba radi istu stvar, iako ćemo imati program koji radi te radnje umjesto osobe koja to radi.

Na primjer, pretpostavimo da netko osmisli program koji pretražuje web. Program pita korisnika što želi tražiti. Program zatim korisniku daje popis različitih pogodaka pretraživanja ili nalaza koji, nadamo se, prikazuju relevantne web stranice na temelju korisničkog upita.

Zamislite da tvrtka koja proizvodi ovaj program za pretraživanje weba želi dotjerati svoju aplikaciju.

Oni traže pristup ChatGPT API-ju. Pretpostavimo da obave svu odgovarajuću papirologiju i na kraju dobiju odobrenje. Njihov program koji pretražuje web tada bi trebao biti izmijenjen kako bi uključio poziv za aplikaciju ChatGPT putem API-ja. Pretpostavimo da se odluče napraviti te modifikacije.

Evo kako bi to onda moglo funkcionirati. Kada korisnik unese upit za pretraživanje weba u osnovni program, ovaj program ne samo da obavlja konvencionalno pretraživanje weba, već također prosljeđuje upit ChatGPT-u putem API-ja. ChatGPT zatim obrađuje tekst i vraća rezultirajući esej u jezgru programa. Osnovni program web pretraživanja sada predstavlja korisniku dva aspekta, naime rezultate web pretraživanja i dodatni izlazni esej iz ChatGPT-a.

Osoba koja koristi ovaj temeljni program neće nužno znati da se ChatGPT koristio u pozadini. Može se dogoditi unutar granica osnovnog programa i korisnik je blaženo nesvjestan da je ChatGPT bio uključen. S druge strane, osnovni program mogao bi se osmisliti da obavijesti korisnika da se koristi ChatGPT. To obično ovisi o tome žele li tvorci temeljnog programa otkriti da je korištena druga aplikacija, u ovom slučaju ChatGPT. U nekim dogovorima, tvorac pozivanog programa inzistira da program koji poziva API mora obavijestiti korisnike da se drugi program koristi. Sve ovisi o preferencijama i detaljima licenciranja.

Za pravo uparivanje, evo uobičajenih pristupa:

• 1) Izravni prolaz do ChatGPT-a
• 2) Dodatak za povećanje ChatGPT-a
• 3) Povezana aplikacija koja se podudara s ChatGPT-om
• 4) Potpuno integrativno uranjanje s ChatGPT-om

Ukratko, u prvom navedenom pristupu, ideja je da bih mogao osmisliti program koji je samo sučelje za ChatGPT, i kao takav, sve što moj program radi je prosljeđivanje teksta ChatGPT-u i vraćanje teksta od ChatGPT-a. Stavljam svoj program na raspolaganje svakome tko želi koristiti ChatGPT i tko se inače nije prijavio za njegovo korištenje. Ovo je jedan pristup.

Drugo, mogao bih osmisliti program koji služi kao dodatak ChatGPT-u. Na primjer, kada ChatGPT generira esej, on može sadržavati neistine. Pretpostavimo da napravim program koji ispituje izlaz ChatGPT-a i pokušava otkriti neistine. Činim svoj program dostupnim tako da ljudi unose tekstualni upit u moj program, koji zatim šalje upit ChatGPT-u. ChatGPT proizvodi esej koji se vraća u moj program. Prije nego što vam moj program pokaže esej, pregledava esej i pokušava označiti ili ukloniti neistine. Tada ćete vidjeti dobiveni esej nakon što je moj program obavio projekciju.

Treći pristup sastoji se od posjedovanja srodne aplikacije koja se u smislu podudara s ChatGPT-om. Pretpostavimo da razvijem program koji pomaže ljudima u kreativnom pisanju. Moj program nudi savjete i prijedloge o tome kako kreativno pisati. Program samo potiče ili potiče korisnika da to učini. U međuvremenu, ono što bih želio učiniti jest pokazati korisniku od čega se sastoji kreativno pisanje. Kao takav, uspostavljam API s ChatGPT-om. Moj program zatim prima upit od korisnika i poziva ChatGPT da bi dao nacrt eseja koji bi mogao pokazati kreativno pisanje. To se može učiniti iterativno i pozvati ChatGPT više puta u procesu.

U slučaju četvrtog navedenog pristupa, ChatGPT je u potpunosti integriran u neki drugi program ili skup programa. Na primjer, da imam aplikaciju za obradu teksta i aplikaciju za proračunske tablice, možda bih želio integrirati ChatGPT u te aplikacije. Oni bi, takoreći, funkcionirali ruku pod ruku jedni s drugima. U nadolazećoj ću kolumni pokriti najavljenu mogućnost da bi se Microsoft mogao odlučiti za ubacivanje ChatGPT-a u svoj paket za uredsku produktivnost, stoga budite spremni za tu nadolazeću analizu.

To su onda ključni načini na koje se može dogoditi istinsko uparivanje.

Razmotrimo zatim neke od lažnih parova.

Evo nekih lažnih parova na koje biste trebali pripaziti:

• Gimmickry uparivanje s ChatGPT-om – marginalno koristi ChatGPT, uglavnom za pokazivanje i prikupljanje publiciteta bez dodane vrijednosti
• Primamljiva obećanja o uparivanju ChatGPT-a – prodavač softvera tvrdi da su usred uparivanja s ChatGPT-om, želeći biti u središtu pozornosti, dok je stvarnost takva da to neće učiniti i rade klasično krivotvorenje i daju lažnu zakletvu
• Knokovi koji se proglašavaju sličnim ChatGPT-u – umjesto uparivanja s ChatGPT-om, neki će dobavljači softvera koristiti nešto drugo, što je u redu, ali pokušat će implicirati da je to ChatGPT kada nije, nadajući se da će dobiti nešto od naknadnog sjaja ChatGPT-a
• drugo – moguće je zamisliti mnoštvo dodatnih ispruženih i prevarantskih shema

Nedvojbeno će se oko svega toga događati mnogo smicalica. Bit će sastavni dio izlaska Krakena.

Zaključak

Dopustite mi da ubacim ključeve i druge prepreke u ovu stvar.

Što je s troškovima?

Trenutno, oni koji su se prijavili za korištenje ChatGPT-a to rade besplatno. Prethodno sam primijetio da će u nekom trenutku morati biti uključena izravna monetizacija. To može značiti naplatu naknade po transakciji ili možda plaćanje pretplate. Druga mogućnost je da se oglasi mogu koristiti za unos tijesta, pri čemu će se svaki put kada koristite ChatGPT pojaviti oglas. itd.

Oni koji se odluče uspostaviti uparivanje s ChatGPT-om putem API-ja trebali bi ozbiljno razmisliti o mogućim troškovima. Vjerojatno postoji trošak koji se odnosi na korištenje Microsoft Azure oblaka za pokretanje aplikacije ChatGPT. Za korištenje ChatGPT API-ja i pozivanje AI aplikacije OpenAI će sigurno imati troškove. Dobavljač softvera također će snositi vlastite interne troškove, kao što je modificiranje svojih postojećih programa za korištenje API-ja ili novi razvoj programa oko uparivanja s ChatGPT-om. Zamislite i početne troškove i skup troškova tekućeg održavanja.

Suština je da će ovo raslojavanje troškova donekle ublažiti zlatnu groznicu prema iskorištavanju ChatGPT API-ja. Prodavači softvera vjerojatno bi trebali napraviti razborit izračun ROI-a (povrat ulaganja). Hoće li sve što mogu zaraditi proširenjem svog programa korištenjem ChatGPT-a donijeti dovoljno dodatnih sredstava da nadoknade troškove?

Nije nužno da će svi biti toliko svjesni troškova. Ako imate duboke džepove i vjerujete da će vaša upotreba ChatGPT-a pomaknuti vaš program u najpoznatije ili visoko priznato područje aplikacija, mogli biste odlučiti da se sadašnja cijena isplati. Izgradite ime za svoju aplikaciju jašući na ChatGPT-u. Kasnije, nakon što vaš program postane popularan ili na neki drugi način zarađuje, ili ćete nadoknaditi raniji nedostatak profita ili ga otpisati kao trošak koji je potreban da biste ušli u veliki uspjeh.

Mali startup iza kojeg stoji tvrtka rizičnog kapitala (VC) mogao bi biti spreman izdvojiti dio svog početnog ulaganja kako bi se upario s ChatGPT API-jem. Slava bi mogla odmah nastati. Sreća bi mogla biti daleko, ali to je nešto s čim se treba pozabaviti kasnije. Zgrabite središte pozornosti kada je dobro, kako kažu.

Pretpostavlja se da će možda postojati neprofitna i socijalna poduzeća koja će također odlučiti to učiniti. Pretpostavimo da neprofitna tvrtka identificira korisnu upotrebu pozivanja ChatGPT API-ja koja će naizgled podržati njihove altruističke ili društveno korisne ciljeve. Možda prikupljaju sredstva za ovo putem online kampanje financiranja. Možda pokušavaju sklopiti dogovor s prodavačima tako da plate nominalni iznos ili da ga koriste besplatno.

Vrijeme će pokazati.

Posljednja napomena s kojom ću vas ostaviti je faktor rizika.

Ne želim djelovati pretjerano malodušno, ali ranije sam spomenuo da rezultati ChatGPT-a mogu sadržavati neistine i imati druge potencijalne nedostatke. Stvar je u tome da ako se dobavljač softvera koji izrađuje aplikaciju umiješa u korištenje ChatGPT API-ja, riskira da dobije loše rezultate, što bi trebao očekivati. Ne gurati glavu u pijesak.

Problemi nastaju zbog toga što bi ti rezultati mogli oštetiti aplikaciju koja ih odluči koristiti. U tom smislu, vaša aplikacija koja je isprva slavila ChatGPT također bi mogla završiti u zidu ako se oslonimo na izlaze koje pruža ChatGPT. Možda se rezultati prezentiraju korisnicima i to uzrokuje užasnu galamu. Iskaljuju svoj bijes na vama i vašoj aplikaciji.

Vi zauzvrat pokušavate uprijeti prstom u ChatGPT. Hoće li vas to izvući iz zagonetke? Kad se smrad jednom pojavi, širi se uvelike i rijetki su pošteđeni. U skladu s tim, moglo bi biti da preko proširene upotrebe ChatGPT-a, svijest o lošim rezultatima postaje poznatija. Stoga, čudno ili ironično, proširena upotreba ChatGPT-a zbog API-ja mogla bi im pucati u nogu.

Ne želim zaključiti svoje primjedbe s tužnim licem pa pokušajmo prijeći u sretno lice.

Ako se sva aspiracijska ograničenja i ograničenja pažljivo i razborito slijede i rigorozno ih se pridržava, korištenje ChatGPT-a putem API-ja može biti dobra stvar. Velike su šanse da će ovo dodatno potaknuti druge generativne AI aplikacije na akciju. Plima koja raste mogla bi podići sve brodove.

To djeluje optimistično.

Možda znate da je za Zeusa rečeno da kontrolira Krakena. Sofoklo, starogrčki dramatičar, rekao je ovo o Zeusu: "Zevsova kocka uvijek pada sretno."

Možda će se isto reći o tome kako će generativna umjetna inteligencija neizbježno sletjeti, barem se nadajmo da je tako.