Tehnologija

Generalni direktor OpenAI-ja Sam Altman svjedoči na 'povijesnom' saslušanju u Senatu o sigurnosti umjetne inteligencije

Prije 12 mjeseci
Bitcoin Ethereum vijesti

Sam Altman, izvršni direktor OpenAI-ja i suosnivač Worldcoina, nedavno je svjedočio pred Kongresom zajedno s IBM-ovom šeficom trusta, Christinom Montgomery i profesorom NYU-a Garyjem Marcusom. 

Sjednica Senatskog pododbora za pravosuđe, privatnost, tehnologiju i pravo predstavljala je Altmanovo prvo službeno pojavljivanje pred Kongresom, dajući senatorima priliku ispitati generalnog direktora OpenAI-ja o stajalištima njegove tvrtke o regulaciji.

Senator iz Illinoisa Dick Durbin nazvao ga je "povijesnom" sesijom, a postupak je bio usmjeren na razumijevanje potencijalnih prijetnji koje predstavljaju modeli generativne umjetne inteligencije (AI) kao što je ChatGPT i na koji bi zakonodavci trebali pristupiti regulativi.

Čini se da su Altmanovi komentari - koje su članovi Kongresa i kolega Marcus opisali kao iskrene i nepatvorene - iznenadili nekoliko članova Senata.

Zalagao se za uspostavu savezne nadzorne agencije s ovlastima izdavanja i opoziva razvojnih licenci, izjavio je kako vjeruje da kreatori trebaju dobiti naknadu kada se njihov rad koristi za treniranje sustava umjetne inteligencije i složio se da potrošači koji pretrpe štetu korištenjem proizvoda umjetne inteligencije trebaju biti ima pravo tužiti investitora.

Altman je odbacio pitanja u vezi s nedavnim pismom "AI pause" kojim se poziva na šestomjesečni moratorij na implementaciju sustava moćnijih od GPT-4, AI sustava koji podupire ChatGPT, navodeći da je OpenAI proveo više od šest mjeseci procjenjujući GPT -4 prije postavljanja. Rekao je da tvrtka ne planira uvođenje drugog modela u sljedećih šest mjeseci.

Marcus, potpisnik pisma o pauzi, priznao je da se više slaže s duhom pisma nego s njegovim sadržajem, ali profesor NYU-a pozvao je Kongres da razmotri globalni nadzor kao i saveznu regulativu - mišljenje s kojim se Altman složio.

Tijekom rasprave, tri gostujuća govornika slagala su se oko većine tema. To uključuje podršku za zaštitu privatnosti, veći vladin nadzor, reviziju treće strane i koliko brzo bi vlada Sjedinjenih Država trebala nastojati regulirati industriju (odmah).

Međutim, jedan od usamljenih izvora neslaganja došao je od Montgomeryja iz IBM-a, koji se nije slagao s idejom da bi nova savezna agencija bila potrebna za provedbu propisa u industriji umjetne inteligencije.

Njezine izjave pokazuju da je IBM za kirurški pristup regulaciji korištenjem trenutno postojećih regulatornih tijela kako bi se provedba usmjerila na specifične slučajeve upotrebe.

Dok su se sva tri govornika složila da umjetna inteligencija može biti štetna i zahtijeva sigurnosne intervencije, Marcus je jasno rekao kako vjeruje da nitko trenutno ne razumije niti može predvidjeti koliko štetni postojeći proizvodi umjetne inteligencije mogu biti ili će postati. Založio se za oprezan pristup koji uključuje veću transparentnost.

Govornici su se također složili s članovima Kongresa da je SAD-u potreban nacionalni zakon o privatnosti sličan onima u Europi. Altman se, međutim, nije složio s idejom da bi potrošači trebali moći isključiti uključivanje svojih javno dostupnih web podataka u skupove podataka za obuku.

Altman također nije želio javno izjaviti da se OpenAI protivi ponudi verzije svojih GPT proizvoda koja se temelji na oglasima. Izvršni direktor jednostavno je izjavio da "ne bi rekao nikad".

To je unatoč tome što je ranije tijekom rasprave rečeno da se OpenAI-jevi proizvodi pridržavaju standarda privatnosti potrošača jer tvrtka nije izradila korisničke profile u svrhu posluživanja prilagođenih oglasa.

Navodeći svoje iskustvo kao diplomant Stanforda i zakonodavac koji je radio s decentraliziranim financijama i Web3 tvrtkama, senator iz New Jerseyja Corey Booker iznio je veće pitanje privatnosti centralizacije. Pitao je koje bi bile implikacije centralizacije i monopolizacije za industriju, pitanje na koje je Marcus odgovorio ozbiljnim upozorenjem da bi zemlja mogla riskirati prepuštanje kontrole nad javnom percepcijom malom broju aktera — vodećim AI tvrtkama s dovoljno novca natjecati se s Microsoftom, Googleom i Amazonom.

Altman, čiji projekt Worldcoin kombinira decentraliziranu kriptovalutu na Ethereum blockchainu s autentifikacijom identiteta putem tehnologije skeniranja šarenice, objasnio je da je OpenAI samo pružio platformu i da je do demokratizacije OpenAI-jevih proizvoda došlo kada su programeri, tvrtke i krajnji korisnici prilagodili GPT API za “fantastične” upotrebe.

Povezano: Izvršni direktor OpenAI-ja u 'naprednim razgovorima' za financiranje Worldcoina od 100 milijuna dolara: izvješće