AI Etika koja se strastveno bori za vaše zakonsko pravo da budete iznimka

Kažu da u svakom pravilu postoji iznimka.

Međutim, problem je u tome što često prevladava stalno pravilo i postoji malo ili nimalo dopuštanja da se iznimka prizna ili uvaži. Prosječni slučaj se koristi unatoč strmoglavoj mogućnosti da je iznimka u prvom planu. Iznimka ne dobiva vrijeme emitiranja. Nema priliku da bude propisno razmotren.

Sigurna sam da morate znati o čemu govorim.

Jeste li ikada pokušali dobiti neku vrstu individualizirane korisničke usluge pri čemu su vas bezumno tretirali bez ikakve razlike za vaš pojedinačni slučaj i vaše specifične potrebe?

Ovo vam se nedvojbeno dogodilo, vjerojatno bezbroj puta.

Provest ću vas kroz uznemirujući trend koji se javlja o tome kako se umjetna inteligencija (AI) nemilosrdno osmišljava kako bi se sve uskladilo u paradigmu jednake veličine za sve.

Iznimke se ili ne otkrivaju ili se odabiru da budu izobličene kao da uopće nisu iznimke. Osnova za to je djelomično posljedica pojave strojnog učenja (ML) i dubokog učenja (DL). Kao što ćete uskoro vidjeti, ML/DL je oblik računalnog podudaranja uzoraka, čije je slične "lakše" razviti i implementirati ako ste voljni zanemariti ili zaobići iznimke. Ovo je vrlo problematično i izaziva značajna pitanja etičke inteligencije. Za moje cjelokupno tekuće i opsežno pokrivanje AI Etike i Etičke AI, pogledajte link ovdje i link ovdje, Samo da spomenemo nekoliko.

Stvari ne moraju biti takve i imajte na umu da ovo potiču oni koji stvaraju i implementiraju AI odabirom ignoriranja ili umanjivanja postupanja s iznimkama unutar svojih AI izmišljotina.

Kada vladaju iznimke

Prvo raspakirajmo prirodu prosječnog slučaja naspram ostvarenja iznimaka.

Moj najdraži primjer ove vrste naklapanja ili kratkovidnog pristupa prosječnog slučaja bez iznimki zorno je osvijetljen gotovo svakom epizodom hvaljene i još uvijek iznimno popularne TV serije poznate kao House, dr. Med (obično se samo izražava kao Kuća, koji je trajao od 2004. do 2012. i danas se može pogledati na društvenim mrežama i drugim medijima). Emisija je uključivala izmišljeni lik po imenu dr. Gregory House koji je bio grub, nepodnošljiv i prilično nekonvencionalan, a ipak je bio prikazan kao medicinski genij koji je mogao otkriti najopskurnije bolesti i tegobe. Drugi liječnici, pa čak i pacijenti, možda ga nisu voljeli, ali on je obavio posao.

Evo kako se odigrala tipična epizoda (generičko upozorenje za spojler!).

Pacijent se pojavljuje u bolnici u kojoj radi dr. House. Pacijent u početku pokazuje donekle uobičajene simptome i razni drugi liječnici naizmjenično pokušavaju dijagnosticirati i izliječiti pacijenta. Čudno je to što pokušaji da se pomogne pacijentu ili ne uspiju poboljšati nepovoljna stanja ili još gore imaju tendenciju da se izjalove. Bolesniku je sve gore i gore.

Budući da se sada na pacijenta gleda kao na neku vrstu medicinske radoznalosti, a kako nitko drugi ne može shvatiti od čega pacijent boluje, dr. House je uključen u slučaj. To se ponekad radi namjerno kako bi se iskoristilo njegovo medicinsko umijeće, dok u drugim slučajevima on čuje za slučaj i njegovi urođeni instinkti ga privuku prema neobičnim okolnostima.

Postupno saznajemo da pacijent ima neku izuzetno rijetku bolest. Samo dr. House i njegov tim medicinskih stažista mogu to shvatiti.

Sada kada sam s vama podijelio glavni zaplet epizoda, zaronimo u naučene lekcije koje ilustriraju prirodu prosječnog slučaja nasuprot iznimkama.

Izmišljene priče osmišljene su da pokažu kako razmišljanje unutar okvira ponekad može promašiti cilj. Svi ostali liječnici koji isprva pokušavaju pomoći pacijentu zamagljeni su u svojim procesima razmišljanja. Oni žele prisiliti simptome i prezentirane aspekte u konvencionalnu medicinsku dijagnozu. Pacijent je samo jedan od mnogih koje su vjerojatno već vidjeli. Pregledajte pacijenta i zatim mu prepišite iste tretmane i medicinska rješenja koja je on više puta koristio tijekom svoje medicinske karijere.

Operite, isperite, ponovite.

U jednom smislu, možete opravdati ovaj pristup. Vjerojatnost je da će većina pacijenata imati najčešće bolesti. Dan za danom, ovi liječnici susreću se s istim medicinskim problemima. Mogli biste sugerirati da su pacijenti koji ulaze u bolnicu zapravo na medicinskoj tekućoj vrpci. Svaki od njih teče duž bolničkih standardiziranih protokola kao da je dio proizvodnog pogona ili pogona za sastavljanje.

Prevladava prosječan slučaj. Ne samo da je to općenito prikladno, već također omogućuje bolnici i medicinskom osoblju da optimiziraju svoje medicinske usluge u skladu s tim. Troškovi se mogu smanjiti ako osmislite medicinske procese za rješavanje prosječnog slučaja. Postoji vrlo poznat savjet koji se često ubija u umove studenata medicine, naime da ako čujete zvukove kopita koji dopiru s ulice, velika je vjerojatnost da biste trebali misliti na konja, a ne na zebru.

Učinkovito, produktivno, učinkovito.

Sve dok se iznimka ne ušulja u sredinu.

Možda je zebra iz zoološkog vrta pobjegla i zalutala vašom ulicom.

Znači li to da bi iznimke trebale biti pravilo i da bismo trebali ostaviti po strani pravilo prosječnog slučaja umjesto da se fokusiramo isključivo na iznimke?

Teško bi vam bilo ustvrditi da bi svi naši svakodnevni susreti i usluge trebali biti usmjereni na iznimke, a ne na prosječne slučajeve.

Imajte na umu da ja ne dajem takav prijedlog. Ono što tvrdim jest da bismo trebali osigurati dopuštenje iznimaka i da moramo prepoznati kada se iznimke pojave. Spominjem ovo jer su neki stručnjaci skloni glasno izjaviti da se, ako ste zagovornik priznavanja iznimaka, morate ergo protiviti osmišljavanju prosječnog slučaja.

To je lažna dihotomija.

Ne nasjedajte na to.

Možemo uzeti naš kolač i pojesti ga.

Zastupanje prava da bude iznimka

Sljedeći ću možda pružiti malo šoka koji sve ovo povezuje s rastućom upotrebom umjetne inteligencije.

Sustavi umjetne inteligencije sve se više izrađuju tako da se koncentriraju na prosječan slučaj, često uz isključenje ili na štetu prepoznavanja iznimaka.

Možda ćete se iznenaditi kada saznate da se ovo događa. Većina nas bi pretpostavila da, budući da je AI oblik računalne automatizacije, ljepota automatizacije stvari je u tome što obično možete uključiti iznimke. To se obično može učiniti po nižoj cijeni nego da koristite ljudski rad za obavljanje slične usluge. Što se tiče ljudskog rada, moglo bi biti skupo ili pretjerano imati na raspolaganju sve vrste radne snage koja se može nositi s iznimkama. Stvarima je puno lakše upravljati i postaviti ih na svoje mjesto ako možete pretpostaviti da su svi vaši kupci ili klijenti prosječnog kalibra. Ali upotreba računalnih sustava trebala bi prihvatiti iznimke, i to spremno. Na taj način razmišljanja, trebali bismo burno navijati za više računalnih mogućnosti koje dolaze u prvi plan.

Razmotrite ovo kao zagonetku koja savija um i odvojite trenutak da razmislite o ovom mučnom pitanju: Kako umjetna inteligencija, za koju se inače smatra da je najbolja u automatizaciji, naizgled neumoljivo maršira niz rutinizirani i beziznimni put za koji smo ironično ili neočekivano zamišljali da će ići u potpuno suprotnom smjeru?

Odgovor: Međutim, strojno učenje i duboko učenje vode nas u postojanje bez izuzetaka ne jer moramo obavezno krenuti tim putem (možemo mi bolje).

Raspakirajmo ovo.

Pretpostavimo da odlučimo koristiti strojno učenje za osmišljavanje umjetne inteligencije koja će se koristiti za otkrivanje medicinskih dijagnoza. Prikupljamo hrpu povijesnih podataka o pacijentima i njihovim zdravstvenim okolnostima. ML/DL koji smo postavili pokušava provesti računalnu usporedbu uzoraka koja će ispitati simptome pacijenata i prikazati očekivanu bolest povezanu s tim simptomima.

Na temelju unesenih podataka, ML/DL matematički utvrđuje da su simptomi kao što su curenje iz nosa, grlobolja, glavobolja i bol u grlu snažno povezani s običnom prehladom. Bolnica se odluči koristiti ovu umjetnu inteligenciju za provjeru pacijenata. Svakako, pacijentima koji prijave te simptome po prvom dolasku u bolnicu "dijagnosticira se" da imaju običnu prehladu.

Mijenjajući brzine, dodajmo svemu ovome neku vrstu zaokreta dr. Housea.

Pacijent dolazi u bolnicu i AI mu postavlja dijagnozu. AI pokazuje da se čini da pacijent ima običnu prehladu na temelju simptoma curenja iz nosa, grlobolje i glavobolje. Pacijentu se daju naizgled prikladni recepti i medicinski savjeti za rješavanje obične prehlade. Sve je to sastavni dio pristupa prosječnog slučaja koji se koristi pri osmišljavanju umjetne inteligencije.

Ispostavilo se da pacijent na kraju ima te simptome nekoliko mjeseci. Stručnjak za rijetke bolesti i prehranu shvaća da ti isti simptomi mogu biti odraz curenja cerebrospinalne tekućine (likvora). Stručnjak liječi pacijenta različitim kirurškim zahvatima u vezi s takvim curenjem. Pacijent se oporavlja (usput, ova izvanredna priča o pacijentu s curenjem likvora za kojeg je prvobitno dijagnosticirana obična prehlada labavo se temelji na stvarnom medicinskom slučaju).

Sada ćemo se vratiti našim koracima u ovoj medicinskoj sagi.

Zašto umjetna inteligencija koja je radila prethodni pregled unosa nije mogla procijeniti da pacijent možda ima ovu rijetku bolest?

Jedan od odgovora je da ako podaci o obuci korišteni za izradu ML/DL-a ne sadrže takve instance, u njima ne bi bilo ničega s čime bi se podudarao računalni uzorak. S obzirom na nedostatak podataka koji pokrivaju iznimke od pravila, opće pravilo ili sam prosječni slučaj smatrat će se naizgled besprijekornim i primijeniti bez ikakvog oklijevanja.

Druga je mogućnost da je u povijesnim podacima postojao, recimo, slučaj ovog rijetkog curenja likvora, ali to je bio samo jedan određeni slučaj iu tom smislu izuzetak. Svi ostali podaci bili su matematički blizu utvrđenog prosječnog slučaja. Tada se postavlja pitanje što učiniti s takozvanim outlierom.

Imajte na umu da je postupanje s tim izvanrednim vrijednostima stvar koja se uvelike razlikuje od toga kako bi se AI programeri mogli odlučiti boriti s pojavom nečega izvan utvrđenog prosječnog slučaja. Ne postoji potreban pristup koji su programeri umjetne inteligencije prisiljeni poduzeti. To je pomalo Divlji zapad što se tiče toga što bilo koji programer umjetne inteligencije može učiniti u bilo kojoj instanci podizanja iznimke u svojim razvojnim naporima ML/DL-a.

Evo mog popisa načina na koji su te iznimke česte neprimjereno obrađen:

• Iznimka se smatra pogreškom
• Iznimka se smatra nedostojnom
• Iznimka se pretpostavlja kao podesiva u "normu"
• Iznimka uopće nije primijećena
• Iznimka je primijećena, ali je po kratkom postupku zanemarena
• Iznimka primijećena pa kasnije zaboravljena
• Iznimka primijećena i skrivena od pogleda
• Itd.

Razvojni programer umjetne inteligencije mogao bi odlučiti da je rijetkost ništa više od pogreške u podacima. Moglo bi se činiti čudnim da bi netko razmišljao na ovaj način, pogotovo ako to pokušate humanizirati tako što ćete, na primjer, zamisliti da je pacijent s curenjem likvora taj jedan primjer. Međutim, postoji snažno iskušenje da ako svi vaši podaci izvan konteksta govore u osnovi jednu stvar, možda se sastoje od tisuća i tisuća zapisa i svi se približavaju prosječnom slučaju, pojava jednog čudnog podatka može lako (lijeno!) biti protumačeno kao čista pogreška. "Pogrešku" bi tada mogao odbaciti programer umjetne inteligencije i ne uzeti u obzir u domeni onoga na čemu se ML/DL obučava.

Drugi način suočavanja s iznimkom bila bi odluka da je to nedostojna stvar. Zašto se gnjaviti s jednom rijetkošću kada možda žurite pokrenuti i pokrenuti ML/DL? Izbacite outlier i krenite dalje. Nijedna misao ne ide nužno prema posljedicama na putu.

Još jedan pristup uključuje uključivanje iznimke u ostatak miljea prosječnog slučaja. AI programer modificira podatke kako bi se uklopili u ostatak norme. Također postoji šansa da AI programer ne primijeti postojanje iznimke.

ML/DL bi mogao izvijestiti da je otkrivena iznimka, a razvojni programer umjetne inteligencije trebao bi uputiti ML/DL o tome kako se matematički postupa s outlierom. Razvojni programer umjetne inteligencije mogao bi to staviti na popis obaveza i kasnije zaboraviti na to da se nosi s tim ili bi jednostavno odlučio ignorirati to, i tako dalje.

Sve u svemu, otkrivanje i rješavanje problema s iznimkama kada je u pitanju AI bez ikakvog posebno propisanog ili uvjerljivo uravnoteženog i obrazloženog pristupa per se. Iznimke se često tretiraju kao nedostojni izopćenici, a prosječan slučaj je prevladavajući pobjednik. Suočavanje s iznimkama je teško, može oduzimati puno vremena, zahtijeva privid vještih vještina razvoja umjetne inteligencije, a inače je gnjavaža u usporedbi s trpanjem stvari u zgodnu leptir mašnu koja odgovara svima.

Do neke mjere, to je razlog zašto je etika umjetne inteligencije i etička umjetna inteligencija tako ključna tema. Pravila AI Etike tjeraju nas da ostanemo budni. AI tehnolozi ponekad mogu biti zaokupljeni tehnologijom, osobito optimizacijom visoke tehnologije. Oni ne uzimaju u obzir nužno veće društvene posljedice.

Osim primjene načela etike umjetne inteligencije općenito, postoji odgovarajuće pitanje trebamo li imati zakone koji bi regulirali različite upotrebe umjetne inteligencije. Na saveznoj, državnoj i lokalnoj razini razrađuju se novi zakoni koji se tiču ​​raspona i prirode načina na koji bi se umjetna inteligencija trebala osmisliti. Napori za izradu i donošenje takvih zakona postupni su.

U ovoj konkretnoj raspravi o ulozi iznimaka dolazi provokativno stajalište da bi možda trebalo postojati zakonsko pravo povezano s iznimkom. Moguće je da jedino održivo sredstvo za dobivanje bona fide priznanja za nekoga tko je možda izuzetak uključuje korištenje duge ruke zakona.

Uvesti novu vrstu ljudskih prava.

Pravo da se smatra iznimkom.

Razmotrite ovaj prijedlog: “Pravo biti iznimka ne podrazumijeva da svaki pojedinac is iznimka, ali da, kada odluka može nanijeti štetu subjektu odluke, donositelj odluke treba razmotriti mogućnost da subjekt svibanj biti iznimka. Pravo na izuzetak uključuje tri sastojka: šteta, individualizacijai neizvjesnost. Donositelj odluke mora odlučiti nanijeti štetu samo ako je razmotrio je li odluka primjereno individualizirana i, što je ključno, nesigurnost koja prati komponentu odluke koja se temelji na podacima. Što je veći rizik od štete, to je razmatranje ozbiljnije” (od Sarah Cen, u istraživačkom radu pod naslovom Pravo biti iznimka u donošenju odluka na temelju podataka, MIT, 12. travnja 2022.).

Možda ćete biti u iskušenju pretpostaviti da već imamo takvo pravo.

Nije nužno. Prema istraživačkom radu, vjerojatno najbliže međunarodno priznato ljudsko pravo moglo bi biti ono na dostojanstvo pojedinca. U teoriji, pojam da bi trebalo postojati priznanje dostojanstva koje bi trebalo obuhvatiti pojedinca i njegovu specifičnu jedinstvenost dovodi vas u okvir potencijalnog ljudskog prava na iznimku. Jedna dvojba je da se za postojeće zakone koji uređuju područje dostojanstva kaže da su pomalo nebulozni i pretjerano fleksibilni, stoga nisu dobro prilagođeni specifičnoj pravnoj konstrukciji prava na iznimku.

Oni koji podržavaju novo pravo koje se sastoji od ljudskog prava da bude iznimka tvrdili bi sljedeće:

• Takvo bi pravo gotovo zakonski prisililo programere umjetne inteligencije da se izričito nose s iznimkama
• Tvrtke koje proizvode umjetnu inteligenciju bile bi legalnije na udaru jer se ne bave iznimkama
• AI bi vjerojatno bio bolje uravnotežen i općenito robusniji
• Oni koji koriste umjetnu inteligenciju ili podliježu umjetnoj inteligenciji bili bi bolji
• Kad umjetna inteligencija ne prihvaća iznimke, pravni lijek bio bi lako izvediv
• Proizvođačima umjetne inteligencije također će biti bolje (njihova umjetna inteligencija pokrivala bi širi raspon korisnika)
• Itd.

Oni koji se protive novom pravu označenom kao ljudsko pravo da bude iznimka skloni su reći:

• Postojeća ljudska prava i zakonska prava to dovoljno pokrivaju i nema potrebe za kompliciranjem
• Pretjeran teret bio bi stavljen na pleća proizvođača umjetne inteligencije
• Napori na izradi umjetne inteligencije postali bi skuplji i mogli bi usporiti napredak umjetne inteligencije
• Pojavila bi se lažna očekivanja da će svi zahtijevati da budu iznimka
• Samo bi pravo nedvojbeno bilo podložno različitim tumačenjima
• Oni koji će najviše dobiti bit će pravna struka kada pravni slučajevi porastu
• Itd.

Ukratko, protivljenje takvom novom pravu obično tvrdi da je ovo igra s nultim zbrojem i da će zakonsko pravo biti iznimka koštati više nego što to ima koristi. Oni koji vjeruju da je takvo novo pravo razumno potrebno, skloni su naglasiti da ovo nije igra s nultim zbrojem i da na kraju svi imaju koristi, uključujući one koji proizvode AI i one koji koriste AI.

Možete biti sigurni da će ova rasprava koja obuhvaća pravne, etičke i društvene implikacije povezane s umjetnom inteligencijom i iznimkama biti glasna i ustrajna.

Samovozeći automobili i važnost iznimaka

Razmotrite kako se to primjenjuje u kontekstu autonomnih sustava kao što su autonomna vozila i samovozeći automobili. Već je bilo raznih kritika o prosječnom načinu razmišljanja o razvoju umjetne inteligencije za samovozeće automobile i autonomna vozila.

Na primjer, u početku je vrlo malo dizajna samovozećih automobila bilo prilagođeno onima koji imaju neki oblik tjelesnog invaliditeta ili oštećenja. Nije se puno razmišljalo o širem uključivanju čitavog niza potreba vozača. Općenito gledano, ta je svijest porasla, iako se još uvijek izražava zabrinutost oko toga je li to dovoljno daleko i prihvaćeno onoliko koliko bi trebalo biti.

Još jedan primjer prosječnog slučaja naspram iznimke ima veze s nečim što bi vas moglo uhvatiti nespremne.

Jeste li spremni?

Dizajn i implementacija mnogih današnjih sustava za vožnju AI i samovozećih automobila imaju tendenciju stvarati tihu ili neizgovorenu pretpostavku da će se odrasli voziti u samovozećim automobilima. Znamo da kada je ljudski vozač za volanom, u vozilu je naravno odrasla osoba, po definiciji jer se obično dobivanje vozačke dozvole temelji na tome da ste punoljetni (dobro, ili skoro). Za samovozeće automobile koji imaju umjetnu inteligenciju koja upravlja cijelom vožnjom, nema potrebe za prisutnošću odrasle osobe.

Poanta je da možemo imati djecu koja se sama voze u automobilima bez prisustva odrasle osobe, barem je to moguće u slučaju potpuno autonomnih samovozećih automobila s umjetnom inteligencijom. Svoju djecu možete ujutro poslati u školu korištenjem samovozećeg automobila. Umjesto da vi morate voziti svoju djecu ili koristiti ljudskog vozača usluge dijeljenja prijevoza, možete jednostavno staviti svoju djecu u samovozeći automobil i odvesti ih do škole.

Nije sve ružičasto kada je riječ o tome da djeca budu sama u samovozećim automobilima.

Budući da više nema potrebe da u vozilu bude odrasla osoba, to znači da se ni djeca više neće osjećati pod utjecajem ili da kažemo kontroliranom prisutnošću odrasle osobe. Hoće li djeca poludjeti i rasturati unutrašnjost samovozećih automobila? Hoće li se djeca pokušati popeti ili dohvatiti kroz prozore samovozećeg automobila? Koje bi druge vrste ludorija mogli učiniti, što bi dovelo do potencijalnih ozljeda i ozbiljne štete?

Pokrivao sam žestoku raspravu o ideji da se djeca sama voze u samovozećim automobilima, vidi link ovdje. Neki kažu da se to nikada ne smije dopustiti. Neki kažu da je to neizbježno i da moramo smisliti kako najbolje učiniti da to uspije.

Zaključak

Vratimo se sveobuhvatnoj temi prosječnog slučaja nasuprot iznimci.

Čini se da se svi slažemo da će uvijek postojati neka iznimka od pravila. Nakon što je pravilo oblikovano ili identificirano, trebali bismo tražiti iznimke. Kada naiđemo na iznimke, trebali bismo razmisliti o tome na koje se pravilo ta iznimka vjerojatno odnosi.

Mnoge AI koje se danas osmišljavaju oblikovane su oko formuliranja pravila, dok se izazovi povezani s iznimkama obično zanemaruju i sliježu ramenima.

Za one koji vole biti mrzovoljni i reći da nema iznimaka od pravila da uvijek postoje iznimke od pravila, priznajem da ova duhovitost izgleda kao mentalna zagonetka. Naime, kako možemo imati pravilo da uvijek postoje iznimke, a onda to pravilo kao da ne vrijedi za pravilo da uvijek postoje iznimke od pravila?

Vrti ti se u glavi.

Srećom, nema potrebe pretjerano komplicirati ove otrežnjujuće stvari. Nadamo se da možemo živjeti s praktičnim i vitalnim pravilom na koje bismo trebali paziti i prihvatiti iznimke od svakog pravila.

To rješava stvari, pa idemo sada raditi na tome.