Meta AI otkriva diplomatskog šarmera prožetog umjetnom inteligencijom koji miješa etiku umjetne inteligencije i zakon umjetne inteligencije u nedelikatan tiff

Cijenjeni svijet šarma i diplomacije često je pokvaren nedelikatnošću i neuljudnošću.

Will Rogers, veliki humorist i društveni komentator, slavno je rekao da je diplomacija umijeće govoriti "Dobra psića" dok ne nađeš kamen.

Očigledna implikacija je da ponekad morate oštro suzdržavati sve nadolazeće i ugrožavajuće sile dok ne otkrijete prikladno obranjivo rješenje. Učinite ono što morate učiniti kada ste u očajničkoj nevolji. Namjerno i namjerno smirite one koji vas ugrožavaju, koristeći svoje umirujuće i zaljubljene riječi, prikupljajući dragocjeno vrijeme da se naoružate praktičnijim i otvoreno opipljivijim stavom.

OGLAS

Neki tvrde da je rat neizostavno rezultat neuspjele diplomacije. S ovog razmatranog stajališta, neprestani udar diplomacije spriječit će rat. Nastavite pričati i borba neće započeti. Drugi se žestoko ne slažu s takvim problematičnim mišljenjem. Možda je, kaže se, diplomacija zapravo ono što nas uvlači u ratove. Povrh toga, moglo bi se dogoditi da diplomacija razvlači ratove i održava borbe na beskrajnoj osnovi.

Dat ćemo Willu Rogersu još jednu priliku da okusi malo humora u ovom pitanju je li diplomacija dobra ili loša u pogledu početka ili nastavka rata: "Izbacite diplomaciju iz rata i stvar bi propala za tjedan dana" (on navodno deklarirano).

Uobičajena definicija diplomacije naglašava odnose među nacijama. Diplomati predstavljaju određene nacije ili nacionalne države i provode diplomaciju kada obavljaju svoje svete dužnosti. Očekujemo od naših diplomata da svoju vanjsku politiku vode samosvjesno. Glasnik ne bi trebao biti taj koji izaziva neprijateljstvo, to bi mogla učiniti samo poruka. Pretpostavlja se da besprijekoran diplomatski prikaz čak i najeklatantnijih poruka može dokazano ublažiti udarac koji proizlazi iz inače štetnog zahtjeva ili prijetnje.

OGLAS

Naravno, diplomacija nije ograničena samo na uzvišeni posao formaliziranih diplomata. Usuđujem se reći da u našem svakodnevnom životu svi moramo steći neki privid diplomacije. Kada poželite da prijatelj čuva vašeg voljenog psa dok ste na poslovnom putu, sigurno ćete diplomatski opravdati zahtjev da se brinete za psa. Izravan zahtjev da se to učini vjerojatno će završiti s tupim udarcem.

Budući da je diplomacija vjerojatno više umjetnost nego znanost, diplomacija je nešto što ljudi koriste za podmazivanje klizača, održavanje svjetla i sprječavanje društva da potpuno poludi. Pregovori se igraju. Možda će biti potrebno smirivanje. Ponekad koristite mrkvu, ponekad koristite štap. Ako to morate učiniti, možete isprobati takozvanu diplomaciju topovnjače, kojom pokušavate zastrašiti druge oko sebe. Ili umjesto snažnog naoružavanja, možete ići mekšim posredovanjem i humanitarnim putem. Sve ovisi.

U redu, svi se razumno slažemo da je diplomacija vitalan oblik komunikacije između ljudi. Sastoji se od prakse ili scenskog umijeća povezanog s korištenjem takta, posredovanja, pregovaranja, mirenja i niza društveno vještog politikanstva.

OGLAS

Dodajmo još nešto toj jednadžbi.

Jeste li spremni?

Dodat ćemo još nešto o čemu ste možda već razmišljali.

Umjetna inteligencija (AI).

Da, umjetna inteligencija ulazi u diplomaciju. Ovo se čini posve razumnim. Ako ćemo imati umjetnu inteligenciju uronjenu u sve aspekte naših života, diplomacija je na kraju morala doći na red. Možemo očekivati ​​da će umjetna inteligencija moći obavljati sve svoje dužnosti korištenjem odgovarajućih riječi i načina diplomacije.

OGLAS

AI kao autonomni ili poluautonomni diplomat.

Shvaćam da bi to moglo djelovati prilično zastrašujuće i potpuno zastrašujuće. Mislim da nitko od nas nije spreman da AI ide uokolo kao predstavnik svake zemlje. Zamislite da AI služi u naše ime kako bi pregovarao o našim međunarodnim pozicijama i potvrdio naše globalno političko držanje. Jao! To je tema onih apokaliptičnih znanstveno-fantastičnih priča.

Pa, na trenutak odahnite jer to za sada nije u planu.

Umjesto toga, razmislite o umjetnoj inteligenciji koju koristite za obavljanje bankovnih poslova ili koja vam pomaže pri kupnji doma. Današnja umjetna inteligencija koja komunicira s ljudima obično je prilično suha. Dođite do činjenica, samo do činjenica. Neka umjetna inteligencija prekrivena je ljupkim riječima kako biste pomislili da je prijateljska ili prijateljska, iako se to brzo vidi. Samo zato što vas sustav umjetne inteligencije naziva vašim imenom ili emitira riječi poput "zdravo" umjesto "zdravo", većina nas odmah shvati da je to šarada.

Sljedeći korak kojemu se željno stremi u hodnicima AI programera je pokušaj ubacivanja diplomatskih karakteristika u našu svakodnevnu AI. Sveobuhvatni cilj je ugraditi programske aspekte koji će natjerati AI da pokaže diplomaciju i ponašanje slično diplomatskom. Korištenjem raznih algoritama, a posebno najnovijih generativnih AI ili Large Language Models (LLM), postignut je značajan napredak na ovom planu.

OGLAS

Pogledat ćemo jedan takav primjer, CICERO, novi AI sustav koji je objavio Meta AI tim.

U slučaju da ste bili na odmoru i niste bili u tijeku s najnovijim vijestima o umjetnoj inteligenciji, nedavna najava i predstavljanje sustava umjetne inteligencije skovanog kao CICERO nudi značajan putokaz gdje se ovih dana nalazi diplomacijska arena prožeta umjetnom inteligencijom. Promišljeno i na njihovu čast, Meta AI tim je otvoreno stavio na raspolaganje svoj razvijeni CICERO AI sustav. Tehničke detalje možete pročitati u objavljenom istraživačkom radu na Znanost, Vidi link ovdje. Možete posjetiti web stranicu koju su postavili kako bi nježno prenijeli sveukupne nijanse CICERO-a s kratkim video isječcima koji ilustriraju što radi (pogledajte link ovdje). Za one od vas koji traže stvarni programski kod i softver, izvorni kod možete pronaći na GitHubu na link ovdje.

Želim brzo razjasniti jedan aspekt koji bi se mogao činiti zbunjujućim ako odlučite istražiti ovo pitanje.

Određeni AI sustav koji je osmislio Meta AI trenutno je postavljen za igranje pomalo popularne igre poznate kao diplomatija (možda ste vidjeli društvenu igru ​​prema Hasbru i drugim proizvođačima igara). Pominjem ovo jer će riječ "diplomacija" imati dvostruku dužnost u ovim okolnostima. S jedne strane, osmišljena umjetna inteligencija pokušava spojiti karakteristike poduzeća i prikaza diplomatija po sebi. U međuvremenu, okruženje u kojem se ovaj određeni sustav umjetne inteligencije odvija je igranje posebno i samo (trenutačno) poznate društvene igre poznate kao diplomatija.

Vidite li kako će ovo potencijalno zbuniti neke ljude?

Ako vam netko kaže da se ova umjetna inteligencija jako dobro snalazi u "diplomaciji", možda niste sigurni misli li na ideju da je umjetna inteligencija prilično vješta u igranju društvene igre poznate kao diplomatija ili možda umjesto toga sugeriraju da umjetna inteligencija utjelovljuje temeljnu bit povezanu s ljudskim činom diplomacije. Osim toga, moguće je da su oba aspekta namijenjena u isto vrijeme (naime, AI se dobro snalazi u igranju diplomatija a istodobno se dobro snalazi u mogućnosti vježbanja ili prikazivanja diplomacije kao vještine ili radnje).

OGLAS

Ovdje ću pokušati ispraviti ovo velikim slovom i kurzivom prikazati naziv društvene igre, diplomatija. Ostatak vremena koristit ću izraz "diplomacija" koji nije u kurzivu kao indikaciju cjelokupne koncepcije biti diplomatski ili pokazati diplomaciju (vidite, upravo sam to napravio).

Vraćajući se na ovo pitanje, mogli biste na trenutak razmisliti je li umjetna inteligencija koja pokazuje diplomaciju nešto što bismo trebali željeti ili umjesto toga odvratiti.

Mnogo je pozitivnih aspekata natjerati umjetnu inteligenciju da pokaže diplomaciju. Iako biste živjeli u plitkom balonu da pretpostavite da će AI provođenje diplomacije biti potpuno i isključivo dobra stvar. Umjetna inteligencija za koju se čini da ima diplomatske vještine i može nas natjerati da vjerujemo da ima diplomaciju također je prepuna zabrinjavajućih pitanja koja moramo iznijeti u prvi plan. U biti, umjetna inteligencija koja se koristi na ovaj način otvara hrpu pitanja etike umjetne inteligencije i zakona o umjetnoj inteligenciji. Za one od vas koje zanima etika umjetne inteligencije i pravo umjetne inteligencije, mogli biste pogledati moju opsežnu i stalnu pokrivenost etičke umjetne inteligencije i prava umjetne inteligencije na link ovdje i link ovdje, Samo da spomenemo nekoliko.

Prije nego što pređem na umjetnu inteligenciju kao utjelovljenje nekog oblika diplomacije, želio bih prvo postaviti neke bitne temelje o umjetnoj inteligenciji, a posebno o etici umjetne inteligencije i pravu umjetne inteligencije, čineći to kako bih bio siguran da će rasprava biti kontekstualno razumna.

OGLAS

Rastuća svijest o etičkoj umjetnoj inteligenciji, a također i zakonu o umjetnoj inteligenciji

Nedavna era umjetne inteligencije u početku se smatrala AI za dobro, što znači da bismo mogli koristiti AI za poboljšanje čovječanstva. Za petama AI za dobro došla je spoznaja u koju smo i mi uronjeni AI za loše. To uključuje umjetnu inteligenciju koja je osmišljena ili samoizmijenjena tako da bude diskriminirajuća i donosi računalne odluke prožimajući neopravdane pristranosti. Ponekad je umjetna inteligencija izgrađena na taj način, dok u drugim slučajevima skreće na taj neljubazan teritorij.

Želim biti posve siguran da smo na istoj stranici o prirodi današnje umjetne inteligencije.

Danas ne postoji AI koji je razuman. Mi ovo nemamo. Ne znamo hoće li razumna AI biti moguća. Nitko ne može prikladno predvidjeti hoćemo li postići osjećajnu umjetnu inteligenciju, niti hoće li osjetilna umjetna inteligencija nekako čudesno spontano nastati u obliku računalne kognitivne supernove (koja se obično naziva singularnost, pogledajte moje izvješće na link ovdje).

Vrsta umjetne inteligencije na koju se fokusiram sastoji se od ne-osjećajne umjetne inteligencije koju imamo danas. Kad bismo htjeli divlje spekulirati o osjećajnoj umjetnoj inteligenciji, ova bi rasprava mogla krenuti u radikalno drugačijem smjeru. Osjećajna umjetna inteligencija bi navodno bila ljudske kvalitete. Trebali biste uzeti u obzir da je AI kognitivni ekvivalent čovjeka. Štoviše, budući da neki nagađaju da bismo mogli imati superinteligentnu umjetnu inteligenciju, moguće je da bi takva umjetna inteligencija na kraju mogla biti pametnija od ljudi (za moje istraživanje superinteligentne umjetne inteligencije kao mogućnosti, pogledajte pokrivenost ovdje).

OGLAS

Čvrsto bih sugerirao da stvari držimo prizemno i razmotrimo današnju računalnu ne-osjećajnu umjetnu inteligenciju.

Shvatite da današnja umjetna inteligencija nije sposobna "razmišljati" ni na koji način na razini ljudskog razmišljanja. Kada komunicirate s Alexom ili Siri, konverzacijski kapaciteti mogu se činiti sličnim ljudskim kapacitetima, ali realnost je da su računalni i da im nedostaje ljudska spoznaja. Najnovija era umjetne inteligencije uvelike je koristila strojno učenje (ML) i duboko učenje (DL), koji koriste uparivanje računalnih uzoraka. To je dovelo do AI sustava koji nalikuju ljudskim sklonostima. U međuvremenu, danas ne postoji umjetna inteligencija koja ima privid zdravog razuma niti ima bilo kakvo kognitivno čudo snažnog ljudskog razmišljanja.

Budite vrlo oprezni s antropomorfiziranjem današnje umjetne inteligencije.

ML/DL je oblik podudaranja računalnog uzorka. Uobičajeni pristup je da prikupljate podatke o zadatku donošenja odluka. Podatke unosite u modele računala ML/DL. Ti modeli nastoje pronaći matematičke obrasce. Nakon pronalaženja takvih uzoraka, ako ih pronađe, AI sustav će koristiti te uzorke kada naiđe na nove podatke. Nakon predstavljanja novih podataka, obrasci temeljeni na "starim" ili povijesnim podacima primjenjuju se za donošenje trenutne odluke.

Mislim da možete pogoditi kamo ovo vodi. Ako su ljudi koji su donosili odluke po uzoru na njih inkorporirali neugodne predrasude, velika je vjerojatnost da podaci to odražavaju na suptilan, ali značajan način. Računalno uparivanje obrasca strojnog učenja ili dubokog učenja jednostavno će pokušati matematički oponašati podatke u skladu s tim. Ne postoji privid zdravog razuma ili drugih osjećajnih aspekata modeliranja izrađenog od umjetne inteligencije.

OGLAS

Nadalje, ni programeri umjetne inteligencije možda neće shvatiti što se događa. Tajanstvena matematika u ML/DL-u mogla bi otežati otkrivanje sada skrivenih predrasuda. S pravom biste se nadali i očekivali da će AI programeri testirati potencijalno zakopane pristranosti, iako je to teže nego što se čini. Postoji solidna šansa da će čak i uz relativno opsežno testiranje još uvijek biti pristranosti ugrađene u modele usklađivanja uzoraka ML/DL.

Mogli biste donekle upotrijebiti poznatu ili zloglasnu izreku smeće-u smeće-van. Stvar je u tome što je ovo više slično predrasudama koje se podmuklo ulijevaju kao pristranosti potopljene unutar AI. Algoritam odlučivanja (ADM) AI aksiomatski postaje opterećen nejednakostima.

Nije dobro.

Sve ovo ima izrazito značajne implikacije na etiku umjetne inteligencije i nudi zgodan uvid u naučene lekcije (čak i prije nego što se sve lekcije dogode) kada je u pitanju pokušaj donošenja zakona o umjetnoj inteligenciji.

OGLAS

Osim primjene načela etike umjetne inteligencije općenito, postoji odgovarajuće pitanje trebamo li imati zakone koji bi regulirali različite upotrebe umjetne inteligencije. Na saveznoj, državnoj i lokalnoj razini razrađuju se novi zakoni koji se tiču ​​raspona i prirode načina na koji bi se umjetna inteligencija trebala osmisliti. Napori za izradu i donošenje takvih zakona postupni su. Etika umjetne inteligencije služi kao zaustavna točka, u najmanju ruku, i gotovo će sigurno u određenoj mjeri biti izravno uključena u te nove zakone.

Imajte na umu da neki uporno tvrde da nam ne trebaju novi zakoni koji pokrivaju umjetnu inteligenciju i da su naši postojeći zakoni dovoljni. Upozoravaju da ćemo, ako donesemo neke od ovih zakona o umjetnoj inteligenciji, ubiti zlatnu gusku tako što ćemo obuzdati napredak u umjetnoj inteligenciji koji nudi goleme društvene prednosti.

U prijašnjim sam kolumnama pokrio različite nacionalne i međunarodne napore u izradi i donošenju zakona koji reguliraju AI, vidi link ovdje, na primjer. Također sam pokrio različita načela i smjernice etike umjetne inteligencije koje su različite nacije identificirale i usvojile, uključujući na primjer napore Ujedinjenih naroda kao što je UNESCO-ov set etike AI koji je usvojilo gotovo 200 zemalja, vidi link ovdje.

OGLAS

Evo korisnog temeljnog popisa etičkih AI kriterija ili karakteristika u vezi sa AI sustavima koje sam prethodno pomno istražio:

• Prozirnost
• Pravda i pravednost
• Ne-zlonamjernost
• Odgovornost
• Privatnost
• Dobročinstvo
• Sloboda i autonomija
• Vjeruj
• Održivost
• Dostojanstvo
• Solidarnost

Te principe etike umjetne inteligencije ozbiljno bi trebali koristiti programeri umjetne inteligencije, zajedno s onima koji upravljaju razvojnim naporima umjetne inteligencije, pa čak i onima koji u konačnici postavljaju i održavaju sustave umjetne inteligencije.

Svi dionici tijekom cijelog životnog ciklusa AI-a razvoja i korištenja smatraju se unutar opsega poštivanja uspostavljenih normi Etičke AI-a. Ovo je važan naglasak budući da je uobičajena pretpostavka da "samo koderi" ili oni koji programiraju umjetnu inteligenciju podliježu pridržavanju etičkih pojmova umjetne inteligencije. Kao što je prethodno naglašeno, potrebno je selo da osmisli i postavi umjetnu inteligenciju, a za to cijelo selo mora biti upućeno i pridržavati se pravila etičke inteligencije.

OGLAS

Također sam nedavno pregledao AI Bill of Rights što je službeni naziv službenog dokumenta američke vlade pod naslovom “Nacrt zakona o pravima umjetne inteligencije: Omogućavanje rada automatiziranih sustava za američki narod” koji je rezultat jednogodišnjeg rada Ureda za politiku znanosti i tehnologije (OSTP ). OSTP je savezni entitet koji služi za savjetovanje američkog predsjednika i Izvršnog ureda SAD-a o raznim tehnološkim, znanstvenim i inženjerskim aspektima od nacionalne važnosti. U tom smislu, možete reći da je ova povelja o pravima umjetne inteligencije dokument koji je odobrila i potvrdila postojeća američka Bijela kuća.

U Povelji o pravima umjetne inteligencije postoji pet ključnih kategorija:

• Sigurni i učinkoviti sustavi
• Algoritamske zaštite od diskriminacije
• Zaštita podataka
• Obavijest i objašnjenje
• Ljudske alternative, razmatranje i pomoć

Pažljivo sam pregledao te propise, vidite link ovdje.

OGLAS

Sada kada sam postavio korisne temelje za ove povezane teme o etici umjetne inteligencije i zakonu o umjetnoj inteligenciji, spremni smo skočiti na opojnu temu strojne diplomacije prožete umjetnom inteligencijom.

AI diplomacija u punom sjaju, ali i potencijalnom padu

Prvo, utvrdimo da je vrsta umjetne inteligencije koja se ovdje razmatra neosjećajna umjetna inteligencija.

Ovo govorim jer ako, ili neki kažu kada dosegnemo li osjetljivu umjetnu inteligenciju, cijela će tema vjerojatno biti potpuno preokrenuta. Zamislite potencijalni kaos i društvenu zbrku zbog toga što ste nekako dospjeli u inače nikad prije viđeno neupitno provjereno vještački inteligencija koja utjelovljuje osjećaj (za moju analizu poznatog testa umjetne inteligencije poznatog kao Turingov test, vidi link ovdje). Možete se razumno kladiti da će mnoge naše postojeće kulturne, zakonske i svakodnevne norme biti duboko uzdrmane.

Možda će razumna umjetna inteligencija biti naš prijatelj, ili će možda osjetilna umjetna inteligencija biti naš najgori neprijatelj. Kako ćemo moći reći kojim putem će AI ići?

Možda ćete biti u iskušenju da kažete da ćemo vjerojatno moći razgovarati s umjetnom inteligencijom i na temelju onoga što kaže otkriti namjere koje ima. Aha, upali ste u uznemirujuću zamku. Pretpostavimo da je AI posebno dobro prožet nekim oblikom sposobnosti AI diplomacije. Kada pokušate razgovarati s umjetnom inteligencijom, ona će možda govoriti najšarmantnijim i najrječitijim izrazima. Ovo bi moglo biti vrlo umirujuće za čovječanstvo.

OGLAS

Ali je li to ono što umjetna inteligencija stvarno ima "na umu" u vezi sa svojim računalnim namjerama temeljenim na umjetnoj inteligenciji?

AI možda radi klasični diplomatski jedan-dva udarac. Razgovarajte o dobroj igri i natjerajte nas da se uljuljkamo u uvjerenje da je AI naš najbolji prijatelj ikada. Ovo možda daje AI vremena da skupi resurse kako bi prestigla čovječanstvo ili možda marljivo radi iza kulisa kako bi potkopala sve ostalo što koristimo za održavanje čovječanstva. Nakon tog pametnog diplomatskog odugovlačenja, wham, AI nas je sve srušio.

Sjetite se što je rekao Will Rogers, što bi u ovom slučaju moglo biti da nam umjetna inteligencija kaže "Lijepi psić", a mi damo umjetnoj inteligenciji dovoljno prostora za disanje da nas zatim izbriše s planeta. Ova koncepcija umjetne inteligencije kao egzistencijalnog rizika dugo se vrti okolo. Neki vjeruju da ćemo smišljanjem umjetne inteligencije s infuziranom diplomacijom biti prevareni. AI će pronicljivo upotrijebiti sve diplomacije koje su nam se pomogle uvježbati, i na kraju ćemo biti slijepo prevareni da AI postane naš gospodar.

Sram nas bilo.

Za one od vas koje dodatno zanima ovaj krajnje spekulativni teren o futurističkoj umjetnoj inteligenciji, pogledajte moje izvješće o perspektivama umjetne inteligencije kao egzistencijalnoj prijetnji na link ovdje.

OGLAS

Vraćajući se na zemlju, ubuduće ću naglašavati put diplomacije prožete umjetnom inteligencijom u našoj postojećoj ne-osjećajnoj umjetnoj inteligenciji.

Idemo malo pratiti povijest.

Pokušaji da se osmisli umjetna inteligencija koja na neki način utjelovljuje računalni okus diplomacije i diplomatskog ponašanja odvijaju se od ranih dana umjetne inteligencije. Možete se lako vratiti u 1950-e, 1960-e i 1970-e i pronaći temeljna istraživanja koja su željela primijeniti umjetnu inteligenciju na ovo područje. Neki su mislili da je teorija igara ključ. Drugi su se usredotočili na psihologiju i srodne kognitivne elemente. Drugi su pokušali iskoristiti ekonomiju, operacijska istraživanja i bezbroj naizgled relevantnih područja nastojanja.

Početni procvat dogodio se kasnije tijekom 1980-ih. U to vrijeme, jedan dominantan pristup sastojao se od korištenja ekspertnih sustava (ES) ili sustava temeljenih na znanju (KBS) za izgradnju AI sustava povezanih s diplomacijom. Rezultat je bio prilično štur i pokazivao je koliko će to biti težak zadatak.

OGLAS

Jedna mučna zagonetka tijekom ove ere inicijalnog istraživanja bila je potreba za postojanom platformom na kojoj bi se, ili unutar koje bi se mogla adekvatno testirati i istražiti umjetna inteligencija koja je navodno bila sposobna raditi na neke načine povezane s diplomacijom. Ta je potreba možda očita. Ako netko želi razlučiti može li čovjek ili umjetna inteligencija vršiti diplomaciju, mora se uspostaviti okruženje pogodno za tu potragu.

U ovu sliku dolazi i društvena igra diplomatija.

Shvaćam da je društvena igra diplomatija nije ni približno tako dobro poznato kao Monopol, Rizik, ili strategija (vjerojatno ste čuli za te igre). Unatoč tome, postoji strateška društvena igra poznata kao diplomatija koji je prvi put osmišljen 1954. i komercijalno pušten 1959. Osim što se može igrati licem u lice, diplomatija igra se često igrala putem pošte. Zapisali biste svoje poteze na komad papira i poslali list poštom onima protiv kojih ste igrali. Malo je ludo za zamisliti u današnje vrijeme. Kasnije je korišten e-mail. Na kraju je igra postala dostupna online i omogućila je igračima da međusobno sudjeluju u stvarnom vremenu.

Na diplomatija Nakon što je igra postala dostupna na mikroračunalima, stručnjaci za umjetnu inteligenciju počeli su je koristiti kao zgodno sredstvo za testiranje svojih diplomacijskih izmišljotina prožetih umjetnom inteligencijom. The diplomatija igra je bila dostupna kao aplikacija koja se izvodi na osobnim računalima tako da je čovjek mogao igrati protiv stroja (tj. osmišljene umjetne inteligencije). AI iz 1990-ih koji je napisan za igranje diplomatija bio je notorno spor, zagonetan i lako ga je pobijedio bilo koji čovjek koji ima minimalnu pamet u igranju igara.

OGLAS

Evo recenzije iz 1999 diplomatija kao što je objavljeno na Yahoou koji je slikovito opisao tužno stanje diplomacije prožete umjetnom inteligencijom kao protivnika ljudskog igrača:

• "Međutim, diplomatijaNajočitiji problem je u tome što je umjetna inteligencija u igrici apsolutno užasna. Igrači bilo koje razine vještine neće imati problema s lovom na kitove na računalu čak ni na najvišoj postavci težine. Pobjeda je jednostavno pitanje vremena i strpljenja sa sučeljem. Nije kao da vam računalo ne spletkari iza leđa – jest, i često se udružuje sa saveznicima kako bi vam oduzelo teritorij ili dva – ali takve se spletke pojavljuju u napadima, a ne kao stalne ili posebne izazovna prijetnja.”

Jedna posebno uznemirujuća slabost dizajna umjetne inteligencije bila je to što se činilo da mu nedostaje kapaciteta za izračunavanje višestrukih poteza ili strategija odjednom: “A na bazičnijoj razini, čini se da računalo nije sposobno upravljati višestrukim strateškim potezima. Dok ljudski igrač može pokrenuti napade na Grčku i Belgiju istovremeno, čini se da se računalo uvijek fokusira samo na jednu stvar u isto vrijeme. Iz tog razloga, računalo se jednostavno ne može natjecati s ljudskim igračem” (ibid).

Još vam nisam objasnio što diplomatija Društvena igra sastoji se od, pa uzmimo trenutak da utvrdimo osnovna pravila.

Postoji zgodan istraživački rad o umjetnoj inteligenciji i igranju diplomatija koji je jezgrovito opisao prirodu igre: “Igra se odvija na karti Europe 1901. godine, koja je podijeljena na 75 provincija. Svaki igrač igra jednu od sedam velikih sila tog vremena: Austrija (AUS), Engleska (ENG), Francuska (FRA), Njemačka (GER), Italija (ITA), Rusija (RUS) i Turska (TUR) i svaki igrač počinje s tri ili četiri jedinice (vojske ili flote) koje su postavljene na fiksne početne položaje na karti. U svakom krugu igre, svaki igrač mora 'predati naredbu' za svaku od svojih jedinica, koja govori tim jedinicama kako se kretati po karti i omogućuje im osvajanje provincija na karti” (Dave de Jonge, Tim Baarslag, Reyhan Aydogan , Catholijn Jonker, Katsuhide Fujita i Takayuki Ito, “Izazov pregovora u igri diplomacije,” Sporazumne tehnologije: 6. međunarodna konferencija, U 2018)

OGLAS

Također morate znati o načinima pobjede i načinima gubitka igre: “Neke od provincija su tzv. Opskrbni centri a cilj igrača je osvojiti te Opskrbne centre. Igrač je eliminiran kada izgubi sve svoje centre za opskrbu, a igrač pobjeđuje u igri kada osvoji 18 ili više od 34 centra za opskrbu (samostalna pobjeda). Međutim, igra također može završiti kada svi preživjeli igrači pristanu na remi” (ibid).

Vjerujem da to možete vidjeti diplomatija je jednostavna igra koja uključuje do sedam igrača koji pokušavaju strateški nadmudriti jedni druge. Tijekom ovog manevriranja, igrači se mogu međusobno savjetovati, čineći to bez da drugi igrači znaju što namjeravaju. Čin diplomacije dolazi do izražaja tako što možete pridobiti druge igrače da se slažu s vašim planovima. Možda ćete otkriti svoje prave planove, a možda i ne. Možda nudite lažne planove. Možete pregovarati s drugim igračima. Možete prevariti druge igrače. Možete sklapati saveze s drugim igračima. itd.

Sve je pošteno u ljubavi i ratu, kako kažu.

Odabrao sam taj poseban istraživački rad jer je bio ključan u uspostavljanju varijante računalne verzije diplomatija naziva DipGame služiti kao napredna platforma za testiranje diplomacijskih sposobnosti prožetih umjetnom inteligencijom: „Postoji kroničan nedostatak zajedničkih aplikacijskih domena za testiranje naprednih istraživačkih modela i arhitektura pregovaranja agenata u višeagentnim sustavima. U ovom radu predstavljamo prijateljsko testno mjesto za tu svrhu. Ispitna ploča temelji se na Igra diplomacije gdje pregovaranje i odnosi između igrača igraju ključnu ulogu” (ibid). Ova i brojne druge varijacije diplomatija su izrađeni i dostupni za istraživanje i igru.

OGLAS

Istraživači su objasnili zašto vjeruju u to diplomatija je tako korisna igra za pomoć umjetnoj inteligenciji u potrazi za diplomacijom prožetom umjetnom inteligencijom: "Igra diplomatija predstavlja izvrstan testni slučaj za ovu vrstu složenih pregovora, jer je to igra koja uključuje mnoge poteškoće s kojima bi se također morali suočiti u pregovorima u stvarnom životu. To uključuje zadovoljenje ograničenja, formiranje koalicija, teoriju igara, povjerenje, pa čak i psihologiju. Sada kada su moderna računala za šah i go već daleko superiornija od bilo kojeg ljudskog igrača, to očekujemo diplomatija počet će privlačiti više pozornosti kao sljedeći veliki izazov za informatiku” (ibid).

U kratkom rezimeu, društvena igra diplomatija pruža već poznato i donekle popularno sredstvo za navođenje ljudi da djeluju na razne diplomatske načine. Obično ljudi igraju protiv drugih ljudi (u ovom slučaju do sedam ljudskih igrača). Možemo osmisliti AI koji bi pokušao preuzeti ulogu igrača u igri. Dakle, možete imati šest ljudskih igrača i jednog AI igrača.

Zamislite igranje diplomatija na liniji.

Ako ljudskim igračima ne kažemo da je među njima AI, mogli bi prirodno pretpostaviti da je sedmi igrač samo još jedan ljudski igrač. Kako bismo pokušali spriječiti bilo kojeg ljudskog igrača da pogodi da AI igra, možemo ograničiti aspekte igre na zahtjev da svi igrači šalju tekstualne poruke jedni drugima. Ne možete izravno vidjeti druge igrače.

OGLAS

Možda mislite da se ovo ne čini osobito drugačijim od igranja online šaha. Čemu velika galama diplomatija kao igra?

Podsjetimo da smo usredotočeni na interakcije među igračima. Pretpostavka ove igre je da se igrači pozivaju na diplomaciju jedni prema drugima. Ovo je za razliku od konvencionalnog šaha. Kad bih razvio aplikaciju za igranje šaha temeljenu na umjetnoj inteligenciji, ona bi normalno igrala protiv jednog čovjeka. Ne postoje nikakvi pregovori ili rasprave između umjetne inteligencije koja igra šah i ljudskog igrača. Oni samo povlače šahovske poteze i pokušavaju nadmašiti jedni druge. To se obično radi u potpunoj tišini.

diplomatija omogućuje nam vježbu otvorene računalne i ljudske diplomacije (potencijalno to čineći u pisanom obliku umjesto da to moramo izgovoriti naglas): "Glavna razlika između diplomatija i drugim determinističkim igrama kao što su šah i go, jest da je u diplomaciji igračima dopušteno međusobno pregovarati i formirati koalicije. U svakoj rundi, prije nego što igrači predaju svoje narudžbe, igrači imaju vremena da međusobno pregovaraju i dogovore se o narudžbama koje će predati. Pregovori se odvijaju u četiri oka, a svaki dogovor koji se sklopi poznat je samo igračima uključenim u taj dogovor” (ibid).

Možete li smisliti neku drugu igru ​​koja koristi interaktivnu diplomaciju umjesto da se oslanja na igru diplomatija?

Apsolutno.

OGLAS

Postoje razne takve igre.

Međutim, pogodnost odabira jedne određene marke igre je u tome što programeri umjetne inteligencije mogu usmjeriti svoju pozornost na tu određenu igru. Možete se okupiti oko osmišljavanja umjetne inteligencije koja izvodi diplomaciju u tom definiranom kontekstu. Možete dijeliti pristupe i suprotstavljati ih. Možete ocijeniti različite instance AI na temelju metrike povezane s tom igrom. I tako dalje.

Uz to, protuargument ili izražena zabrinutost je da je ovo kao da sva jaja stavljate u jednu košaru. Neki se brinu da ako mnogi programeri umjetne inteligencije postanu zaokupljeni jednom određenom platformom ili okruženjem, kao u ovom slučaju diplomatija, nastojat će optimizirati AI za tu specifičnu arenu. Loša strana implikacija je da AI neće biti generaliziran. Nećemo toliko napredovati prema sveobuhvatnim sposobnostima diplomacije prožete umjetnom inteligencijom.

Nešto kao ne vidjeti šumu zbog drveća, ako hoćete.

Još jedna zabrinutost koja se često izražava je da igre kao što su diplomatija su samo igre.

OGLAS

Postavlja se teško pitanje rade li ljudi koji igraju igricu iste stvari koje bi radili u diplomaciji u stvarnom svijetu. Možda se ne ponašate na isti način kada nacionalni ponos ili nacionalni ulozi nisu u pitanju. Naravno, možda ćete biti zabrinuti za svoj osobni ponos dok igrate igru, ili možda pokušavate postati najbolji strijelac, ili možda čak osvojiti novčane nagrade, ali ipak, je li to jednako pregovaranju o svjetskom miru u Ujedinjenim narodima ili cjenkanju oko toga koje zemlje trebali imati ili ne imati nuklearno oružje.

Neki vjeruju da su te diplomacijske igre prikladni mikrokozmosi stvarnog svijeta. Drugi se žale da su igre korisne, ali ne dostižu poslovičnu diplomaciju međunarodnog kalibra koja se temelji na susretu s cestom. Moguće je da se verzije diplomacije prožete umjetnom inteligencijom za igranje igrica ne pokažu ništa više od običnog uspjeha igranja igrica. Bože, osmišljena umjetna inteligencija može pobijediti ili biti jako dobra kada igrate igru ​​koja uključuje diplomaciju, iako se ispostavlja da korištenje iste umjetne inteligencije u pravim diplomatskim okruženjima jako nedostaje i koleba se ili ne uspijeva.

Pretpostavimo na trenutak da je umjetna inteligencija napravljena za igranje igara kao što su diplomatija doista vrijedi. Mogli biste razumno tvrditi da, bez obzira na to je li prikladna samo za igranje igrica ili za akciju u stvarnom svijetu, ideja podrazumijeva širenje granica umjetne inteligencije i postizanje napretka u umjetnoj inteligenciji koji bi mogao doprinijeti diplomaciji ili bi mogao imati druga korisna otkrića u kovanju umjetne inteligencije.

OGLAS

Dajte prednost smajliću za sada.

Zatim ćemo ispitati kako je Meta AI odlučila stvoriti igrača diplomacije prožetog umjetnom inteligencijom koji se može ponašati u igri diplomatija.

Držite se šešira.

Meta AI i diplomacija u igri strojnog diplomata Cicerona

Kao što je ranije spomenuto, postoji istraživački rad objavljen u Znanost koji opisuje novonajavljenu i javno objavljenu aplikaciju Meta AI skovanu kao Cicero (tijekom ove rasprave naizmjenično ću to zvati "Cicero", a isto tako i nadimak "CICERO" napisan velikim slovima):

OGLAS

• “Predstavljamo Cicero, AI agenta koji je postigao učinak na ljudskoj razini u strateškoj igri diplomatija, u diplomatija, sedam igrača vodi privatne pregovore o prirodnom jeziku kako bi koordinirali svoje akcije kako bi međusobno surađivali i natjecali se. Nasuprot tome, prethodni veliki uspjesi za multi-agent AI bili su u čisto suparničkim okruženjima, kao što su šah, Go i poker, gdje komunikacija nema nikakvu vrijednost. Zbog ovih razloga, diplomatija poslužio je kao izazovno mjerilo za učenje s više agenata” (Meta Fundamental AI Research Diplomacy Team, “Human-Level Play In The Game Of Diplomacy By Combining Language Models With Strategic Reasoning”, Znanost, 22. studenog 2022.).

Citirat ću iz rada i zatim ponuditi različite uvide koji će vam, nadam se, biti zanimljivi.

S obzirom na to da je umjetna inteligencija upravo postala dostupna, vjerojatno ću napraviti naknadnu analizu nakon što sam imao priliku obaviti duboku praktičnu procjenu koda i također provesti neke eksperimentalne igrice kako bih procijenio mogućnosti umjetne inteligencije (kao što je ključne snage i slabosti).

Pripazite na to kasnije objavljivanje!

U svakom slučaju, vjerujem da ste možda primijetili u odlomku koji sam upravo citirao da postoji fraza koja kaže da je umjetna inteligencija "postigla performanse na ljudskoj razini u strateškoj igri diplomatija".

OGLAS

Razmislite o tome.

Prvo, svakako je pohvalno što smo uspjeli osmisliti AI koja igra ulogu diplomatija igra na navodnoj razini performansi sličnoj ljudskoj. To je iznimno važno.

Imamo ih puno diplomatija igranje AI-a koji je ispod razine u usporedbi s ljudima koji igraju diplomatija igra. Više nego što možete protresti štapom. Umirujuće je i uzbudljivo napredovati prema umjetnoj inteligenciji koja može mnogo bolje igrati igru. Ipak, moramo biti oprezni u brzom donošenju zaključaka o ovome.

Na primjer, pretpostavimo da sam osmislio AI za igranje diplomatija i suprotstavio sam ga ljudskim igračima koji nikad prije nisu igrali igru. Ako ih moja umjetna inteligencija pobijedi, bilo bi malo pretjerano reći da je moja umjetna inteligencija radila na razini performansi na ljudskoj razini. Činjenica da je to učinio s ljudima koji nisu bili upoznati s igrom donekle je zapanjujuća i dvojbena.

OGLAS

Ovo donosim kako bih vas unaprijed upozorio da uvijek pomno provjerite sve naizgled pretjerane tvrdnje o umjetnoj inteligenciji. Ranija rasprava o etici umjetne inteligencije i zakonu o umjetnoj inteligenciji možda će vam otvoriti oči na mogućnost lažnih tvrdnji o umjetnoj inteligenciji. Postoje potpuno lažne tvrdnje i postoje one podmukle djelomično istinite i djelomično obmanjujuće tvrdnje koje su posebno zamršene. Ključno je zapitati se zašto oni koji iznose tvrdnje o svojoj umjetnoj inteligenciji to čine.

Gdje je govedina?

Evo što je Meta AI tim imao za reći o osnovi za njihovu tvrdnju o performansama na ljudskoj razini (pogledajte dokument za dodatne detalje):

• “Cicero je anonimno sudjelovao u 40 utakmica diplomacije u “blitz” ligi na webDiplomacy.net od 19. kolovoza do 13. listopada 2022. Ova je liga igrala s petominutnim pregovorima; ove vremenske kontrole dopuštale su da se igre završe unutar dva sata. Cicero je rangiran u prvih 10% sudionika koji su igrali više od jedne utakmice i 2. od 19 sudionika lige koji su igrali 5 ili više utakmica. U svih 40 igara, Ciceronov srednji rezultat bio je 25.8%, više nego dvostruko od prosječnog rezultata od 12.4% od njegova 82 protivnika. Kao dio lige, Cicero je sudjelovao u turniru od 8 utakmica u kojem je sudjelovao 21 sudionik, od kojih je 6 igralo najmanje 5 utakmica. Sudionici su mogli odigrati najviše 6 igara, a njihov poredak se određuje prema prosjeku njihove najbolje 3 igre. Ciceron je bio prvi na ovom turniru” (ibid).

OGLAS

Veliko je olakšanje vidjeti da su ozbiljno pokušali podržati svoje AI tvrdnje u ovom slučaju (budite svjesni da to ne čine svi u AI).

Mogli biste predložiti da su izveli eksperiment. Eksperiment se sastoji od ljudskih igrača koji vjerojatno nisu znali da igraju s AI igračem u svojoj sredini (u radu se govori o tome zašto se to činilo vjerojatnim zaključkom, naime da ljudi nisu otvoreno shvatili da je jedan od igrača AI, iako zanimljiva bočna tangenta uključuje priču o jednom igraču koji je postao blago sumnjičav, ali ne osobito). Ti ljudski igrači bili su unaprijed odabrani prirodom eksperimentalnog dizajna tako da su bili igrači lige diplomatija i možemo razumno zaključiti da su dobro znali kako igrati igru. Nisu bili početnici.

Prema prijavljenim statistikama, koje ćemo uzeti zdravo za gotovo kao prijašnje i pravilno prikupljene i prijavljene (različiti podaci i kodovi navedeni su u dodatnim materijalima), čini se da je AI igrao igru ​​dovoljno da donese uvjerljiv iako usko ograničen zaključak da je dosegla ljudsku razinu izvedbe za ovu varijantu diplomatija igra i kao unutar konteksta navedene lige igrati protiv ljudi koji su naizgled bili iskusni igrači.

Siguran sam da bi se neki od vas možda željeli prepirati s brojem instanci igranja igrice, možda tvrdeći da je premalen da bi se davale hrabre izjave. Još jedna zamjerka mogla bi biti ta da biti unutar prvih 10% sudionika nije dovoljno visoko, tako da dok se možda ne dosegne prvih 1% ne treba se hvaliti učinkom umjetne inteligencije.

OGLAS

Te primjedbe djeluju malo oštro.

Kažem to zato što, srećom, nije prizvana tvrdnja da je "nadljud". Čitatelji nedvojbeno znaju za moje sumorno i kiselo stajalište o onima u AI-u koji stalno daju te prevelike izjave da je njihov AI dosegao nadljudski status. Neću ulaziti u svoje pritužbe o nadljudskim galamećim tvrdnjama ovdje, pogledajte link ovdje za moje poglede.

Moja poanta u ovom slučaju je da vjerujem da je indikacija performansi na ljudskoj razini vjerojatno općenito dopuštena, pod pretpostavkom da svi imaju na umu da je to unutar izuzetno uskog konteksta i da ne pokušavamo ovo pretvoriti u tzv. nadljudski. Također uvijek iznova ponavljam ograničeni kontekst iz razloga koji ću sljedeće razjasniti.

Mogu samo zamisliti da će neki društveni mediji ili naivni (možda neugledni) novinari u potpunosti izvući iz konteksta koncept izvedbe na ljudskoj razini.

Evo čega se bojim.

OGLAS

Zadržite dah.

Neki će tvrditi da je umjetna inteligencija ovladala diplomacijom. Da, studija o razvijenom AI sustavu za diplomaciju dokazala je izvan svake sumnje da AI može i sada ima kapacitet učiniti sve što ljudi rade za diplomaciju.

Pošaljite kući strane diplomate. Možemo ih zamijeniti umjetnom inteligencijom.

Svijet kakvog poznajemo se promijenio. Proizveli smo umjetnu inteligenciju koja je potpuno jednaka ljudima u diplomaciji i možemo napraviti mentalni "logični" skok do ideje da umjetna inteligencija sada može učiniti sve što mogu učiniti i ljudi. Voila, sada smo dokazali da je umjetna inteligencija na razini ljudi. Očigledno, ova studija pruža jasne dokaze o razumnoj umjetnoj inteligenciji.

Upamtite moje riječi, ovo će definitivno biti neobičan, neodgovoran, naporan pristup nekih pisaca.

Neću duljiti. Idemo dalje.

OGLAS

Kako AI radi?

Evo kratkog sažetka iz članka: “Cicero spaja modul dijaloga kojim se može upravljati s motorom za strateško zaključivanje. U svakom trenutku igre, Cicero modelira kako će drugi igrači vjerojatno djelovati na temelju stanja igre i njihovih razgovora. Zatim planira kako se igrači mogu koordinirati na obostranu korist i preslikava te planove u poruke prirodnog jezika” (ibid).

Pun je zalogaj u tom kratkom sažetku.

Dopusti mi da se malo raspakiram.

Ljudski igrač koji igra diplomatija mora predvidjeti što će drugi ljudski igrači učiniti. Želite pokušati pregovarati s drugim igračima i natjerati ih da se slažu s vašim planovima. Pokušat će učiniti isto s vama. Možda vam lažu. Možda im lažete. Morate se boriti sa šest drugih igrača, od kojih svi imaju svoj privid planova i pristupa.

OGLAS

Aspekti više agenata ove igre ključni su za razinu težine osmišljavanja umjetne inteligencije za igranje igre. AI mora pratiti što bi svaka osoba mogla učiniti, zajedno s onim što kaže da želi učiniti, zajedno s bilo kakvim trikovima koje radi s drugim igračima. Ovo treba odvagnuti s onim što vam govore da će učiniti, kao i s onim što im govorite da ćete učiniti.

Vrtoglavo, ali obično dovoljno lako za ljude.

U jeziku područja umjetne inteligencije, ovo nazivamo Teorijom uma (ToM). Uzmite u obzir da ste vi, kao čovjek, skloni teoretizirati o tome što drugi ljudi misle. Ne možete otvoriti nečiju nogicu i vidjeti njihove misli. Morate pogoditi što misle. Možete ih pitati, ali ono što vam kažu mogu biti njihove misli ili može biti podmukla verzija njihovih misli.

Uz kompleksnost Teorije uma, moramo dodati ljudski jezik u ovu mutnu mješavinu.

Kada osoba komunicira s vama na svom prirodnom jeziku, recimo engleskom, postoji mnogo prostora za pogreške i pogrešnu komunikaciju. Kažem vam da ću preuzeti zemlju X, ali greškom kažem Y. Ups. Ili, jesam li rekao zemlja X, ali ste pogrešno mislili da sam rekao država Y. Ako mislite da se takva zabuna ne može dogoditi ako svi koriste tekstualne poruke, grdno ste u krivu. Možda napišem poruku u kojoj piše da ću napasti državu, a ne spominjem koju. Možda se podrazumijeva koju bih “očito” napao. Igrač koji primi moju poruku mogao bi pretpostaviti da implicitno mislim na zemlju X, ali možda sam želio da to misle.

OGLAS

Sve dalje i dalje.

Suština je u tome što naš najnoviji napredak u umjetnoj inteligenciji u vezi s obradom prirodnog jezika (NLP), a posebno najnoviji u generativnoj umjetnoj inteligenciji i modelima velikih jezika (LLM) čine ovu vrstu situacije prirodnog jezika gotovo izvedivom. U prošlosti, NLP obično nije bio dovoljno dobar, a isto tako ni LLM još nisu bili bolje uspostavljeni.

U prošlosti bi AI slao poruke koje biste gotovo sigurno odmah prepoznali da ih je napisao skriptirani AI sustav. Tekst nije bio tečan. Bio je šablonski. Ovo je bio očit znak da je umjetna inteligencija umjetna inteligencija. Danas je mnogo teže uočiti da AI nije ljudski igrač u tim kontekstima.

Kao što je spomenuto u gornjem citatu, ova posebna umjetna inteligencija osmišljena je da sadrži "modul dijaloga koji se može kontrolirati s motorom za strateško razmišljanje" (ibid). Dijalog dolazi kroz ovo: "Ciceron generira dijalog koristeći unaprijed uvježban jezični model koji je dodatno uvježban na podacima dijaloga iz ljudskih igara diplomatija. Ono što je ključno, osim što je utemeljen na povijesti dijaloga i stanju igre, model dijaloga je obučen da se njime može upravljati putem namjera, koje mi ovdje definiramo kao skup planiranih radnji za agenta i njegovog govornog partnera.”

OGLAS

Imajte na umu da je postavka domene ključna. Da ste trenirali samo na dijalozima normalne prirode preko Interneta, ovo ne bi nužno bilo prikladno za diplomatija kontekst igre. Oni koji igraju igru ​​navikli su na neku vrstu stenografskog načina raspravljanja o igri i predloženim potezima. Želite da AI učini isto. Stoga je obučavanje jezičnog modela na dijaloškim podacima specifičnim za domenu pristup vrijedan pažnje.

Za navedeni motor strateškog razmišljanja, evo što kažu: “Cicero koristi modul strateškog razmišljanja za inteligentan odabir namjera i radnji. Ovaj modul pokreće algoritam planiranja koji predviđa politike svih ostalih igrača na temelju stanja igre i dosadašnjeg dijaloga, uzimajući u obzir snagu različitih radnji i njihovu vjerojatnost u ljudskim igrama, te odabire optimalnu akciju za Cicero na temelju tih predviđanja . Planiranje se oslanja na funkciju vrijednosti i politike treniranu putem RL-a za samo-igranje koji je kažnjavao agenta za predaleko odstupanje od ljudskog ponašanja kako bi se održala politika kompatibilna s ljudima” (ibid; imajte na umu da je RL skraćenica od Reinforcement Learning).

Tijekom igre svi igrači ponovno kalibriraju svoje pozicije nakon svakog poteza. Ne možete ući u ovu igru ​​s unaprijed definiranom fiksnom strategijom koja je nefleksibilna i izlivena u kamenu. Morate promijeniti svoje postupke na temelju onoga što drugi igrači rade. AI bi trebao biti programiran da čini isto. Nema statične strategije same po sebi. Umjesto toga, nastavite s upoznavanjem situacije, korak po korak, smišljajući što se čini kao sljedeći najbolji korak koji treba poduzeti.

Tehnološka podloga umjetne inteligencije osmišljena je na sljedeći način: “Dobili smo skup podataka od 125,261 XNUMX igrica diplomatija igrao online na webDiplomacy.net. Od toga je 40,408 igara sadržavalo dijalog, s ukupno 12,901,662 razmijenjenih poruka između igrača. Računi igrača deidentificirani su, a webDiplomacy je izvršio automatsko uređivanje osobnih podataka (PII). Ovaj skup podataka u daljnjem tekstu nazivamo WebDiplomacy” (ibid).

Slično kao što možete istrenirati umjetnu inteligenciju da igra šah, pri čemu zgrabite milijune šahovskih partija, a umjetna inteligencija uspoređuje uzorke o tome kako su igre igrane, umjetna inteligencija za ovo diplomatija igranje igara bilo je usporedivo uspostavljeno.

Oni od vas koji su upućeni u umjetnu inteligenciju mogli bi biti znatiželjni koje su osnovne modele koristili, evo: “Uzeli smo R2C2 (22) kao naš osnovni model – model kodera-dekodera temeljen na 2.7B parametrima temeljen na transformatoru koji je prethodno obučen na tekst s interneta koristeći BART objektiv za uklanjanje šuma. Osnovni prethodno obučeni model zatim je dodatno obučen na WebDiplomacy putem standardne procjene maksimalne vjerojatnosti” (ibid).

Nadalje, zauzeli su pomalo neobičan i intrigantan pristup modeliranju drugih igrača u pogledu njihovih imputiranih politika: „Popularan pristup u kooperativnim igrama je modeliranje politika drugih igrača putem nadziranog učenja na ljudskim podacima, što je uobičajeno naziva se bihevioralno kloniranje (BC). Međutim, čisti BC je krhak, pogotovo jer nadzirani model može naučiti lažne korelacije između dijaloga i radnji. Kako bi riješio ovaj problem, Cicero je koristio varijante piKL-a (26) za modeliranje politike igrača. piKL je iterativni algoritam koji predviđa politike pretpostavljajući da svaki igrač i nastoji maksimizirati očekivanu vrijednost svoje politike πi i minimizirati KL divergenciju između πi i BC politike, što nazivamo sidrom politike τi (ibid).

Mislim da to pokriva glavne aspekte i daje vam pravi privid onoga što umjetna inteligencija radi i kako ispunjava određeni zadatak.

Zaključak

Ima još mnogo toga što bih želio spomenuti, ali dugo trajem ovom raspravom i pokušat ću pokriti samo nekoliko ključnih aspekata. Nastojat ću pokriti više u sljedećem postu.

Jeste li ikada čuli za zatvoreničku dilemu?

To je klasičan problem vezan uz odlučivanje.

Zatvorenikova dilema uključuje da morate odlučiti hoćete li cinkariti ili nagovarati suzatvorenika. Drugi vas zatvorenik također može cinkariti. Postoji funkcija nagrađivanja tako da ako ocirkate drugog zatvorenika, a oni vas ne ocinkare, to je za vas neka vrsta pobjede. Ako vas cinkare, a vi ih ne ocinkarite, to je za njih neka vrsta pobjede, a za vas gubitnička pozicija. Ako oboje cinkarite jedno drugo, oboje ste u biti izgubili. Detaljno pogledajte moju pokrivenost na link ovdje.

Koju biste strategiju smislili kada biste se suočili s dilemom zatvorenika?

Ako je to bio jednokratni dogovor, možete gotovo baciti novčić. Ako se situacija ponavlja iznova i iznova, a vi imate posla s istim drugim zatvorenikom, mogli biste pronaći obrazac koji bi se mogao pojaviti. Jedan od najpopularnijih i često preporučenih uzoraka poznat je kao tik-za-drago. Što god drugi zatvorenik učini, i vi učinite isto na svom sljedećem potezu. Ako oni tebe ne cinkare, nemoj ni ti njih. Ako vas cinkare, vi ih ocinkarite na sljedećem potezu.

Možda ćete biti zbunjeni kako se išta od ovoga odnosi na diplomaciju prožetu umjetnom inteligencijom tijekom igranja diplomatija.

Evo dogovora.

U pregovorima s drugima često morate odlučiti hoćete li im reći istinu ili im lagati. Problem s laganjem je taj što ako vas uhvate u laži, druga vam osoba od tada vjerojatno više neće vjerovati. Možda vam u početku nisu u potpunosti vjerovali, ali sada kada ste pokazali da doista lažete, sigurno će odlučiti da ste lažljivac.

Neki igrači diplomatija neprestano lagati. Vjeruju da je to najbolja strategija. Laž, laž i još više laži. Drugi igrači idu potpuno suprotno. Oni tvrde da se želite suzdržati od laganja ako to možete. Koristite laž samo u najpotrebnijim situacijama. Poštedivši laganje, možete izgraditi povjerenje s drugim igračima. Nakon što krenete putem laganja i budete otkriveni, nitko vam neće vjerovati ni riječ.

Dokument koji opisuje Cicerona spominje ovo razmatranje: “Konačno, diplomacija je posebno izazovno područje jer uspjeh zahtijeva izgradnju povjerenja s drugima u okruženju koje potiče igrače da ne vjeruju nikome. Radnje svakog poteza događaju se istovremeno nakon neobvezujućih, privatnih pregovora. Da bi uspio, agent mora uzeti u obzir rizik da igrači možda neće ostati vjerni svojoj riječi ili da drugi igrači mogu sami posumnjati u poštenje agenta” (ibid).

Prema radu i kratkim videozapisima, istraživači su na kraju otkrili da se čini boljom općom strategijom da AI govori što je više moguće istine. U određenom smislu, ovo biste mogli usporediti s "milo za drago" zatvorenikovom dilemom. Počnite govoreći istinu. Ako vaš protivnik govori istinu, vi nastavljate govoriti istinu. Ako počnu lagati, trebate procijeniti hoćete li ostati pri govorenju istine ili prijeći na laganje.

Pretpostavljamo da je ovo dirljivo otkriće.

Imajte na umu da je lukav i intrigantan dio diplomatija je da to radite u odnosu na šest drugih igrača (poznato kao problem s više agenata). Mogli biste biti krajnje iskreni sa svima njima. Ili možda nekima istinito, drugima ne. Postoji i aspekt da kada lažete i budete uhvaćeni u laži prema jednom drugom igraču, drugi igrači to potencijalno mogu primijetiti ili zaključiti. Dakle, poznato je ili se pretpostavlja da lažete, čak i ako niste lagali određenom igraču za kojeg se nadate da misli da ste iskreni i prema kojem pokušavate biti iskreni.

Ljudi su skloni shvatiti i razviti svoje pristupe laž-istina kada se bave diplomacijom. Ovisnosti o situaciji mogu biti veliki faktor. Ulozi su ključni za razmatranje. Utječe mnoštvo čimbenika.

Bilo bi fascinantno imati umjetnu inteligenciju diplomatija igrač temeljen na stroju igra vrlo velik broj igara kako bi vidio što bi rezultati mogli sugerirati u glavnom.

Možda bismo također željeli suprotstaviti AI manje od šest drugih igrača da vidimo kako to mijenja stvari. Također bismo mogli dodati AI u kombinaciju kao više od jednog igrača. Na primjer, pretpostavimo da imamo pet ljudskih igrača i dva igrača s umjetnom inteligencijom (postavit ćemo igrače s umjetnom inteligencijom kao zasebne instance kako računalno ne bi bili jedno te isto). Što je s četiri čovjeka i tri AI? Što je sa šest umjetne inteligencije i jednim čovjekom?

Drugi put bio bi suprotstaviti AI isključivo AI. Na taj bismo način mogli brzo proći kroz gazilijun igara. Postavljanje sedam različitih instanci umjetne inteligencije. Svaki je zaseban igrač za sebe. Budući da je sve to unutar računala, možemo ih pokretati bez prestanka i proizvoditi tisuće ili milijune instanci igre.

Naravno, problem s AI-versus-AI je taj što smo uklonili ljudske igrače. Ne znamo da AI-versus-AI odražava ono što bi ljudski igrači učinili. U svakom slučaju, mogli bi se uočiti neki zanimljivi rezultati.

Ranije sam rekao da je jedno ograničenje AI ove vrste to što je obično usko usmjerena. Ne možemo odmah znati da AI koja igra diplomatija bit će primjenjivi u stvarnoj diplomaciji. Nadalje, možda AI koji dobro radi diplomatija neće se posebno dobro snaći u drugim online igrama usmjerenim na diplomaciju. Možda se neće prebaciti i umjesto toga biti neka vrsta ponija s jednim trikom.

Kao što je navedeno u istraživanju o formulaciji DipGame:

• “Tvrdimo da je u pravim pregovorima važno imati znanje o domeni i treba biti u stanju rasuđivati ​​o tome. Ne može se, na primjer, očekivati ​​sklapanje isplativih poslova u poslovanju s antikvitetima bez ikakvog znanja o antikvitetima, bez obzira na to koliko ste dobri u pregovaranju. Štoviše, dobar pregovarač također bi trebao biti u stanju obrazložiti želje svojih protivnika. Dobar prodavač automobila, na primjer, pokušao bi otkriti koja vrsta automobila najbolje odgovara potrebama njegovog klijenta kako bi povećao šanse za sklapanje profitabilnog posla” (prema ranije citiranom: Angela Fabregues i Carles Sierra, “DipGame: A Challenging Negotiation Ispitna platforma”, Inženjerske primjene umjetne inteligencije, Listopada 2011.).

Nakon ovladavanja umjetnom inteligencijom diplomatija dogodi, sve bi oči trebale biti uprte u korištenje ili ponovnu upotrebu umjetne inteligencije za rješavanje drugih igara povezanih s diplomacijom. Osim toga, trebalo bi istražiti napore za korištenje umjetne inteligencije u stvarnom okruženju diplomacije.

Za sada ću završiti s nekim etičkim razmatranjima umjetne inteligencije.

Prvo, bilo je ohrabrujuće primijetiti da je Meta AI tim prepoznao da njihov rad obuhvaća grananja AI etike. Pojavljuju se otrežnjujuća pitanja. Je li ispravno "prevariti" ljude da igraju protiv umjetne inteligencije, a da im se ne kaže da to čine? Može li prirodni jezik koji generira AI nenamjerno sadržavati uvredljive riječi koje se prenose ljudskim igračima? I tako dalje.

Obavezno pogledajte kako su se nosili s gorućim problemima etičke umjetne inteligencije u Dodatnim materijalima (SM) njihovog rada: “Mi dalje raspravljamo o etičkim razmatranjima za ovo istraživanje u SM-u, uključujući razmatranja privatnosti za korištenje podataka (SM, § A.1), potencijalne štete koje proizlaze iz generiranja toksičnog ili pristranog jezika (SM, §A.2), načina za zlouporabu ciljno usmjerene tehnologije dijaloga (SM, §A.3) i otkrivanja agenta umjetne inteligencije ljudskim igračima (SM , §A.4)” (ibid).

Potrebno nam je da više programera umjetne inteligencije i njihovo vodstvo budu upoznati s etičkom umjetnom inteligencijom i da poduzmu oprezne korake kako bi bili pažljivi i razboriti u svom radu na umjetnoj inteligenciji. Osim toga, moraju biti sigurni da su transparentni o tome koje su etičke AI radnje poduzeli i koje su pretpostavke napravili.

Moja posljednja stavka za sada uključuje ukupnu strepnju od antropomorfizirajući PREMA.

Ako poboljšamo umjetnu inteligenciju tako da izgleda izrazito diplomatski, hoće li to dovesti ljude u zabludu da pretpostave ili vjeruju da je umjetna inteligencija jednaka ljudima u svim aspektima?

To je laka skliska padina. Nezgrapna umjetna inteligencija s kojom komunicirate odaje izdajnički trag da je vjerojatno umjetna inteligencija, a ne čovjek. Glatko iterirana umjetna inteligencija koja izgleda kao vrhunska diplomatska držanost vjerojatno će natjerati ljude da bez oklijevanja upadnu u zamku da je umjetna inteligencija ljudska, uključujući kao da ima ljudski zdrav razum i sve ljudske sposobnosti razumijevanja.

Na stranu, shvatite i kako bi se to moglo iskoristiti tijekom diplomatija igra. Ljudski igrač koji vidi gotovo poetične poruke drugog igrača mogao bi shvatiti da to mora biti umjetna inteligencija (sada daleko iznad prijašnje nezgrapne umjetne inteligencije), dok drugi ljudi ne bi mogli tako artikulirano sastavljati poruke. Naravno, ako se umjetna inteligencija nastavi prilagođavati, mogla bi izmijeniti poetski izraz kako bi što više odražavala šturi i labavi izraz stvarnih ljudskih igrača. Zauzvrat, ljudski igrači mogu prijeći na poetski jezik, pokušavajući odati da su ljudi. Ideja je da će možda drugi ljudski igrači biti voljni uskladiti se s drugim ljudima umjesto umjetne inteligencije.

Sljedeća stvar koju znate je da se igranje počinje pretvarati u pokušaj otkrivanja tko je čovjek, a tko AI. Ako možete shvatiti koji je koji, možda vam to daje prednost. S druge strane, možda je za ne. AI bi na kraju mogao biti jednako pametan u igri kao i ljudi. Vaše nagađanje o tome koji je koji ne koristi vam puno. To bi moglo odvlačiti pozornost od koncentracije samo na pokušaj pobjede u igri, bez obzira na to jesu li pri ruci AI igrači ili ljudski igrači.

Za istraživače koji žele provesti neke studije ljudskog čimbenika o ovoj vrsti zastrašujuće koncepcije, potencijalno biste mogli razmotriti korištenje AI-infuzije diplomatija igrača i tražiti voljan diplomatija ligaški turniri za istraživanje identifikacije ljudi protiv umjetne inteligencije i strategija prilagodbe ponašanja koje se pojavljuju.

Završimo ovo.

Mark Twain je rekao ovo o diplomaciji: "Načelo davanja i uzimanja je načelo diplomacije - daj jedan i uzmi deset." Je li to iskrena procjena načina na koji ljudi funkcioniraju ili je to samo malo bezobraznog humora koji cinično, ali netočno procjenjuje ljudsko stanje?

Razmislite o ovim dodatnim pitanjima:

• Ako diplomaciju možemo unijeti u umjetnu inteligenciju, hoće li nas to naučiti kako ljudi iniciraju diplomaciju i možda omogućiti čovječanstvu da poboljša umijeće diplomatije?
• Hoćemo li stvoriti lažnu umjetnu inteligenciju koja se čini osjećajnom iako nije ništa slično, a sve zbog računalnog izvlačenja zeca iz šešira kako bi se naizgled pokazala ljudska diplomacija?
• Može li se pronaći ravnoteža između umjetne inteligencije prožete diplomacijom kako bismo u međuvremenu bili upozoreni da je to još uvijek samo svakodnevna umjetna inteligencija i da je stoga ne bismo trebali antropomorfizirati?

Kažu da je diplomacija umijeće prepustiti drugome da ti bude na putu. Pobrinimo se da naš način bude ljudski, a ne AI način. Iako da budem diplomatski, sada kada dobro razmislim o tome, i u slučaju da završimo s AI gospodarima, možda bismo trebali dopustiti da naš put bude AI način, koji se, nadamo se, uklapa u odgovarajući ljudski način.

Samo pokušavam upotrijebiti mrvicu vješte diplomacije.