NTT i Sveučilište u Tokiju razvijaju prvu svjetsku umjetnu inteligenciju za optičko računalstvo pomoću algoritma inspiriranog ljudskim mozgom

Suradnja unapređuje praktičnu primjenu AI male snage i velike brzine temeljene na optičkom računalstvu

TOKIO–(BUSINESS WIRE)–#TechforGood-Korporacija NTT (Predsjednik i glavni izvršni direktor: Akira Shimada, "NTT") i Sveučilište u Tokiju (Bunkyo-ku, Tokio, predsjednik: Teruo Fujii) osmislili su novi algoritam učenja inspiriran obradom informacija u mozgu koji je prikladan za višeslojne umjetne neuronske mreže (DNN) koristeći analogne operacije. Ovo otkriće dovest će do smanjenja potrošnje energije i vremena računanja za AI. Rezultati ovog razvoja objavljeni su u britanskom znanstvenom časopisu Nature Communications 26. prosinca^th.

Istraživači su postigli prvu svjetsku demonstraciju učinkovito izvedenog optičkog DNN učenja primjenom algoritma na DNN koji koristi optičko analogno računanje, za koje se očekuje da će omogućiti uređaje za strojno učenje velike brzine i male snage. Osim toga, postigli su najveću izvedbu u svijetu višeslojne umjetne neuronske mreže koja koristi analogne operacije.

U prošlosti su se visokoopterećeni izračuni učenja izvodili digitalnim izračunima, ali ovaj rezultat dokazuje da je moguće poboljšati učinkovitost dijela učenja korištenjem analognih izračuna. U tehnologiji duboke neuronske mreže (DNN), rekurentna neuronska mreža koja se zove računalstvo dubokog rezervoara izračunava se pretpostavkom optičkog pulsa kao neurona i nelinearnog optičkog prstena kao neuronske mreže s rekurzivnim vezama. Ponovnim unosom izlaznog signala u isti optički sklop, mreža se umjetno produbljuje.

DNN tehnologija omogućuje naprednu umjetnu inteligenciju (AI) kao što je strojno prevođenje, autonomna vožnja i robotika. Trenutačno se potrebna snaga i vrijeme računanja povećavaju brzinom koja premašuje rast performansi digitalnih računala. Očekuje se da će DNN tehnologija, koja koristi izračune analognih signala (analogne operacije), biti metoda realizacije visokoučinkovitih i brzih izračuna slična neuronskoj mreži mozga. Suradnja između NTT-a i Sveučilišta u Tokiju razvila je novi algoritam prikladan za analogni rad DNN koji ne pretpostavlja razumijevanje parametara učenja uključenih u DNN.

Predložena metoda uči promjenom parametara učenja na temelju završnog sloja mreže i nelinearne slučajne transformacije pogreške željenog izlaznog signala (signala pogreške). Ovaj izračun olakšava implementaciju analognih izračuna u stvarima kao što su optički sklopovi. Također se može koristiti ne samo kao model za fizičku implementaciju, već i kao vrhunski model koji se koristi u aplikacijama kao što su strojno prevođenje i različiti AI modeli, uključujući DNN model. Očekuje se da će ovo istraživanje doprinijeti rješavanju novonastalih problema povezanih s AI računalstvom, uključujući potrošnju energije i povećano vrijeme izračuna.

Uz ispitivanje primjenjivosti metode predložene u ovom radu na specifične probleme, NTT će također promovirati veliku i malu integraciju optičkog hardvera, s ciljem uspostavljanja brze optičke računalne platforme male snage za buduće optičke mreže.

Podrška za ovo istraživanje:

JST/CREST je podržao dio ovih rezultata istraživanja.

Objava časopisa:

Magazin: Nature Communications (Internet verzija: 26. prosinca)

Naslov članka: Duboko fizičko učenje s biološki nadahnutom metodom treninga: pristup bez gradijenta za fizički hardver

Autori: Mitsumasa Nakajima, Katsuma Inoue, Kenji Tanaka, Yasuo Kuniyoshi, Toshikazu Hashimoto i Kohei Nakajima

Objašnjenje terminologije:

1. Optički sklop: sklop u kojem su silicijski ili kvarcni optički valovod integrirani u silicijsku pločicu pomoću tehnologije proizvodnje elektroničkih sklopova. U komunikaciji se grananje i spajanje optičkih komunikacijskih putova vrši optičkim smetnjama, multipleksiranjem/demultipleksiranjem valnih duljina i slično.
2. Metoda širenja unatrag (BP): Algoritam učenja koji se najčešće koristi u dubokom učenju. Gradijenti težina (parametara) u mreži dobivaju se propagiranjem signala greške unatrag, a težine se ažuriraju tako da greška postaje manja. Budući da proces povratnog širenja zahtijeva transpoziciju matrice težine mrežnog modela i nelinearnu diferencijaciju, teško ga je implementirati na analognim sklopovima, uključujući mozak živog organizma.
3. Analogno računalstvo: Računalo koje izražava stvarne vrijednosti koristeći fizikalne veličine kao što su intenzitet i faza svjetlosti te smjer i intenzitet magnetskih spinova i izvodi izračune mijenjajući te fizikalne veličine u skladu sa zakonima fizike.
4. Metoda izravne povratne sprege (DFA): Metoda pseudo-izračunavanja signala pogreške svakog sloja izvođenjem nelinearne slučajne transformacije na signalu pogreške završnog sloja. Budući da ne zahtijeva diferencijalne informacije mrežnog modela i može se izračunati samo paralelnom slučajnom transformacijom, kompatibilan je s analognim izračunom.
5. Reservoir computing: vrsta rekurentne neuronske mreže s rekurentnim vezama u skrivenom sloju. Karakterizira ga nasumično fiksiranje veza u međusloju koji se naziva sloj rezervoara. U računalstvu dubokih ležišta, obrada informacija izvodi se povezivanjem slojeva ležišta u više slojeva.

NTT i NTT logo registrirani su zaštitni znakovi ili zaštitni znakovi NIPPON TELEGRAPH AND TELEPHONE CORPORATION i/ili njegovih podružnica. Svi ostali navedeni nazivi proizvoda zaštitni su znakovi njihovih vlasnika. © 2023. NIPPON TELEGRAPH AND TELEPHONE CORPORATION

Kontakti

Stephen Russell

Žične komunikacije®

Za NTT

+382-69-514-878

[e-pošta zaštićena]