Intel ha introdotto la seconda generazione di chip neuromorfici: Loihi II. Concettualmente e architettonicamente, il nuovo chip, nel suo insieme, ripete la prima generazione, annunciata quattro anni fa, ma presenta una serie di miglioramenti tecnici e software. Ma la cosa più interessante è che con il rilascio di Loihi II, che è ancora considerato uno sviluppo della ricerca, l'azienda è pronta a muovere i primi passi verso una commercializzazione limitata di questa soluzione.
Nell'ambito dell'approccio neuromoforico, i ricercatori stanno cercando di ricreare nell'hardware, con vari gradi di accuratezza, i meccanismi alla base del cervello, che a prima vista sono abbastanza semplici: i segnali si propagano in modo asincrono e in parallelo lungo un percorso densamente intrecciato e che cambia il tempo. rete di neuroni in risposta a eventi esterni.
I tentativi di ripeterlo nell'ambito dell'"hardware" convenzionale possono essere considerati abbastanza riusciti, perché ora non sorprenderai nessuno con le reti neurali. Tuttavia, tali reti richiedono un costoso addestramento preliminare su dati pre-etichettati, mentre il cervello apprende al volo. E con il crescere della complessità dei modelli, si pone il problema dell'efficienza energetica, e non solo della formazione, ma anche dell'esecuzione.
Cerebras WSE-2 può essere considerato il "culmine dell'evoluzione" dei classici acceleratori AI di oggi: un chip delle dimensioni di un wafer di silicio contiene 850mila core e consuma 15 kW. Ma questo non è abbastanza: secondo gli stessi sviluppatori, solo un gruppo di tali chip è in grado di funzionare con modelli di intelligenza artificiale paragonabili in scala al cervello umano. E tutte queste limitazioni hanno lo scopo di eliminare proprio i sistemi neuromorfici.
Loihi II è prodotto utilizzando la tecnologia di processo EUV 4 di Intel, che è ancora in fase di sviluppo. Il chip ha un'area di 31 mm2 e contiene 2,3 miliardi di transistor e l'area di un core è di 0,21 mm2, ovvero la densità è quasi raddoppiata rispetto alla prima generazione. Il chip contiene ancora 128 core neurali, ma il numero di neuroni disponibili è cresciuto da 128 mila a 1 milione. La quantità di memoria per core è leggermente diminuita, da 208 a 192 KB, ma ora i banchi di memoria possono essere distribuiti in modo più flessibile tra i neuroni e sinapsi, e la compressione consente di utilizzare il volume disponibile in modo ancora più efficiente.
Anche i nuclei stessi sono cambiati. Nella prima generazione, erano ottimizzati per reti neurali a impulsi specifici, e ora ogni core ha la propria pipeline programmabile e i modelli stessi a livello di chip sono impostati dal microcodice. Inoltre, possono essere utilizzati fino a 4096 byte per lo stato del neurone, a seconda dei compiti (in precedenza c'erano solo 24 byte). Il numero di sinapsi per chip è diminuito da 128 a 12 milioni, ma hanno ricevuto un aggiornamento significativo: per codificare il segnale viene utilizzato un valore INT32, anziché un binario (sì / no).
Insieme, questo ti consente di utilizzare l'apprendimento (anche al volo) con un terzo fattore. Tuttavia, il set di istruzioni dei nuclei neuromorfici è ancora semplice. Include operazioni aritmetiche di base, shift, branching, memoria/registro e gestione degli impulsi. I core stessi sono collegati da una rete mesh veloce 8 × 16 e altri sei core dedicati (in precedenza ce n'erano solo tre) con accelerazione hardware delle attività corrispondenti sono responsabili della configurazione della rete, della (de) codifica dei dati e del controllo della trasmissione degli impulsi .
L'effetto complessivo di tutte le innovazioni è tale che la Loihi II è più veloce della Loihi di prima generazione di circa un ordine di grandezza. Inoltre, ha ricevuto una migliore scalabilità: fino a 1000 core sul chip stesso e puoi anche formare una rete mesh tridimensionale di chip grazie a sei controller I/O dedicati su ciascuno di essi e linee quattro volte più veloci. E per la comunicazione con il mondo esterno sono ora disponibili interfacce standard SPI/AER, GPIO e 1/2.5/10GbE.
Il primo dispositivo basato su Loihi II è stata la scheda a chip singolo Oheo Gulch per lo sviluppo e il debug del software. Attualmente è disponibile solo per partner Intel selezionati nel Neuromorphic Research Cloud. Il prossimo dispositivo sarà la scheda Kapoho Point compatta (4 "× 4"), che già trasporta otto chip Loihi II e fornisce Ethernet e GPIO, oltre a varie interfacce per sensori e attuatori. Le schede possono essere collegate direttamente tra loro per una facile espansione della potenza di calcolo. In futuro, è possibile integrare chip in SoC ibridi per varie attività, nonché l'emergere di soluzioni per data center.
In generale, gli ambiti di applicazione ei compiti dei nuovi prodotti coincidono con quelli oggi serviti dalle reti neurali “classiche” (regolate per l'efficienza energetica). Tuttavia, un "hardware" per la distribuzione non è sufficiente, quindi Intel ha preparato un framework open source universale LAVA, che unificherà lo sviluppo e la preparazione di modelli per quasi tutte le soluzioni hardware (non solo neuromorfiche), tenendo conto delle specificità di specifici architetture.
2021-09-30 16:20:44
Autore: Vitalii Babkin