Kako je propalo kripto carstvo Sama Bankman-Frieda i kako je to utjecalo na AI

Anthropic, istraživačka organizacija za umjetnu inteligenciju sa sjedištem u San Franciscu, podigao je $ 580 milijuna u travnju za istraživanje "AI sigurnosti".

Laboratorij star godinu dana, koji se razvija umjetna inteligencija (AI) sustava koji generiraju jezik, bio je malo poznat u Silicijskoj dolini. Međutim, svota novca obećana malim tvrtkama zasjenila je ono što su VC-ovi ulagali u druge novonastale tvrtke s umjetnom inteligencijom, uključujući one u kojima su radili neki od najupućenijih istraživača u industriji.

Sam Bankman-Fried, osnivač i izvršni direktor FTX-a, mjenjačnice kriptovaluta koja je prošlog mjeseca podnijela zahtjev za bankrot, bio je vođa kruga ulaganja. Nakon što je procurio izvještaj o bilanci Nagli kolaps FTX-a otkrio da su gospodin Bankman-Fried i njegovi suradnici uložili najmanje 500 milijuna dolara u Anthropic.

Njihovo ulaganje bilo je dio prikrivenog i uzaludnog pokušaja da se istraže i suzbiju rizici koje predstavlja umjetna inteligencija, za koju su mnogi ljudi iz Bankman-Friedova kruga mislili da bi u konačnici mogla uništiti planet i naštetiti čovječanstvu. Prema prebrojavanju The New York Timesa, 30-godišnji poduzetnik i njegovi kolege iz FTX-a uložili su ili dodijelili više od 530 milijuna dolara u posljednje dvije godine u više od 70 tvrtki povezanih s umjetnom inteligencijom, akademskih laboratorija, think tankova, nezavisnih projekata , i pojedinačnih istraživača kako bi odgovorili na zabrinutosti oko tehnologije.

Prema četvorici ljudi koji su upoznati s aktivnostima AI-a, a koji nisu bili ovlašteni govoriti u javnosti, neke od tih skupina i osoba sada su zabrinute mogu li dalje trošiti taj novac. Izrazili su zabrinutost da bi Bankman-Friedova nesreća mogla dovesti u pitanje njihove studije i naštetiti im ugledu. Osim toga, upozorili su da bi neki od start-upova i organizacija za umjetnu inteligenciju kasnije mogli postati uključeni u FTX-ov stečajni postupak i da bi im se na sudu povukla potpora.

Zabrinutost u AI industrija su neočekivani rezultat neuspjeha FTX-a, pokazujući koliko su dalekosežne posljedice kolapsa kripto mjenjačnice i nestajanja bogatstva Bankman-Frieda.

Prema Andrewu Burtu, gostujućem suradniku na Pravnom fakultetu Yale i odvjetniku koji se fokusira na opasnosti umjetne inteligencije

Neki bi mogli biti iznenađeni vezom između ova dva područja tehnologije u nastajanju

Međutim, postoje očite veze između njih dvoje.

Učinkoviti altruizam

Zbog svog angažmana u "efektivnom altruizmu", filantropskom pokretu u kojem suradnici žele dugoročno optimizirati učinak svojih davanja, Bankman-Fried je (navodno) pokušavao inspirirati.

Učinkoviti filantropi često se brinu o onome što nazivaju katastrofalnim prijetnjama, poput pandemija, biološkog oružja i nuklearnog rata. Imaju veliko zanimanje za umjetnu inteligenciju. Mnogi učinkoviti altruisti misle da sve snažnija umjetna inteligencija može koristiti svijetu, ali su zabrinuti da bi, ako se ne razvije na siguran način, mogla nanijeti značajnu štetu.

Učinkoviti altruisti dugo su tvrdili da takva budućnost nije izvan područja mogućnosti i da istraživači, tvrtke i vlade trebaju biti spremni na nju. Dok se stručnjaci za umjetnu inteligenciju slažu da je svaki scenarij sudnjeg dana daleko - ako se uopće dogodi - učinkoviti altruisti dugo tvrde da nije.

Istraživanje utjecaja umjetne inteligencije

Vrhunski AI istraživački laboratoriji poput DeepMinda, koji je u vlasništvu Googleove matične tvrtke, i OpenAI, koji su stvorili Elon Musk i drugi, zaposlili su brojne učinkovite altruiste tijekom proteklih deset godina. Imali su ključnu ulogu u razvoju predmeta studije poznatog kao "sigurnost umjetne inteligencije", koja proučava potencijal štete koju mogu uzrokovati sustavi umjetne inteligencije ili mogućnost neočekivanih kvarova.

Slične studije proveli su učinkoviti altruisti iz washingtonskih grupa koje utječu na politiku. Većina sredstava za Centar za sigurnost i nove tehnologije Sveučilišta Georgetown došla je od Open Philanthropy, učinkovite altruističke organizacije koju podržava Dustin Moskovitz, suosnivač Facebooka. Centar proučava učinke umjetne inteligencije i drugih novih tehnologija na nacionalnu sigurnost. U tim think tankovima učinkoviti altruisti također služe kao istraživači.

Fond za budućnost

Od 2014. Bankman-Fried tvrdi da sudjeluje u pokretu učinkovitih altruista. Objasnio je u intervjuu za New York Times u travnju da je namjerno odabrao uspješan posao kako bi mogao davati mnogo veće svote novca, usvajajući filozofiju poznatu kao zarađivanje da bi se dalo.

On i nekoliko njegovih suradnika s FTX-a predstavili su Future Fund u veljači, koji bi osigurao sredstva za "ambiciozne projekte za poboljšanje dugoročnih izgleda čovječanstva". Will MacAskill, jedan od osnivača Centra za učinkoviti altruizam, i drugi utjecajni članovi pokreta pomogli su u upravljanju fondom.

Do početka rujna, The Future Fund obećao je dodijeliti bespovratna sredstva u ukupnom iznosu od 160 milijuna dolara raznim inicijativama, uključujući studije o pripremljenosti za pandemiju i ekonomskom širenju. Ukupno 30 milijuna dolara izdvojeno je za donacije raznim skupinama i pojedincima koji istražuju koncepte povezane s umjetnom inteligencijom.

Jedna potpora za umjetnu inteligenciju iz Fonda za budućnost bila je 2 milijuna dolara za Lightcone Infrastructure, malo poznatu tvrtku. Online debatni forum LessWrong održava Lightcone, a sredinom 2000-ih počeo se baviti idejom da bi umjetna inteligencija jednog dana mogla zbrisati ljude.

Alignment Research Center, grupa koja radi na usklađivanju budućih sustava umjetne inteligencije s ljudskim interesima kako bi spriječila da tehnologija ne postane lažna, primila je 1.25 milijuna dolara od Bankman-Frieda i njegovih kolega. Podržane su i druge inicijative koje su radile na smanjenju dugoročnih rizika od AI. Osim toga, doprinijeli su 1.5 milijuna dolara Sveučilištu Cornell za povezana istraživanja.

Future Fund također je doprinio s otprilike 6 milijuna dolara trima inicijativama koje uključuju "velike jezične modele", vrstu snažnije umjetne inteligencije koja može stvarati računalne programe, tweetove, e-poštu i blogove. Sredstva su osmišljena kako bi se smanjilo neočekivano i nepoželjno ponašanje tih sustava, kao i kako bi se ublažio način na koji bi se tehnologija mogla koristiti za širenje lažnih informacija.

G. MacAskill i drugi zaduženi za Future Fund napustili su inicijativu kada je FTX proglasio bankrot, izražavajući "osnovna pitanja o valjanosti i integritetu komercijalnih operacija" na kojima se temelji. Nije stigao komentar g. MacAskilla.

S 500 milijuna dolara financiranja Anthropica, Bankman-Fried i njegovi suradnici ulagali su izravno u start-upove uz nagrade koje dodjeljuje Future Fund. Grupa koja uključuje niz učinkovitih altruista koji su prebjegli iz OpenAI-ja stvorila je korporaciju 2021. Stvaranjem vlastitih jezičnih modela, čija izrada može koštati desetke milijuna dolara, pokušava AI učiniti sigurnijim.

Novac Bankman-Frieda i njegovih suradnika već je dan nekoliko organizacija i ljudi. Drugi su dobili samo dio obećanog. Prema četvero ljudi koji poznaju organizacije, neki su ljudi zbunjeni hoće li se grantovi morati vratiti vjerovnicima FTX-a.

Kad suradnici podnesu zahtjev za bankrot, dobrotvorne organizacije su osjetljive na povrat sredstava, prema Jasonu Lilienu, partneru u odvjetničkom uredu Loeb & Loeb koji se fokusira na neprofitne organizacije. Unatoč tome što su u malo boljem položaju od dobrotvornih organizacija, tvrtke koje primaju rizični kapital od tvrtki u stečaju ipak podliježu zahtjevima za povrat, dodao je.

Učinkoviti altruisti, prema Deweyu Murdicku, voditelju Georgetown think tanka Center for Security and Emerging Technology, koji financira Open Philanthropy, dali su značajan doprinos istraživanju umjetne inteligencije.

Naveo je činjenicu da se više razgovara o tome kako se sustavi umjetne inteligencije mogu razviti imajući na umu sigurnost kao dokaz da "otkako su povećali novac, povećali su pozornost na ova pitanja."

Međutim, Oren Etzioni iz Allenova instituta za umjetnu inteligenciju, laboratorija za umjetnu inteligenciju sa sjedištem u Seattleu, ustvrdio je da su mišljenja zajednice učinkovitih altruista povremeno pretjerana i da često preuveličavaju snagu ili opasnost suvremenih tehnologija.

Rekao je da mu je ove godine Future Fund ponudio sredstva za studije koje bi pomogle u predviđanju dolaska i opasnosti "umjetne opće inteligencije", stroja koji je sposoban izvršiti svaki zadatak za koji je sposoban ljudski mozak. Ali budući da znanstvenici još ne znaju kako to konstruirati, Etzioni je tvrdio da se ta ideja ne može točno predvidjeti.

povezan

Dash 2 Trade – pretprodaja visokog potencijala

• Aktivna pretprodaja uživo sada – dash2trade.com
• Izvorni token ekosustava kripto signala
• KYC potvrđeno i revidirano