Il primo "grande" acceleratore AI al mondo basato sull'architettura RISC-V della giovane azienda Esperanto, creato dal veterano del settore David Dietzel, che è stato all'origine del leggendario Transmeta, può trovare il suo posto nei nuovi SSD "intelligenti" di Samsung. Il colosso coreano ha rivelato informazioni su un prototipo di tale unità nell'ambito dell'evento SAFE, che si è svolto questo autunno.
L'acceleratore Esperanto ET-SoC-1 è stato originariamente creato con un occhio alle piattaforme di inferenza ad alta efficienza energetica per vari sistemi di raccomandazione e, oltre a 1088 core (ET-Minion), ha ricevuto un sottosistema SRAM molto voluminoso (più di 160 MB) e un controller LPDDR4 a otto canali. I creatori di ET-SoC-1 hanno ricevuto i primi lotti di chip rilasciati utilizzando la tecnologia di processo a 7 nm e stanno attualmente lavorando attivamente su vari scenari per l'utilizzo della loro idea.
Ma non solo loro: Samsung ha attirato l'attenzione su ET-SoC-1. Questi sistemi sono ora utilizzati in tutto, dalle piattaforme di streaming ai grandi negozi e alle piattaforme di social media, quindi il mercato è enorme e coloro i cui motori di raccomandazione sono più veloci e precisi ne trarranno vantaggio. Sono così saldamente radicati nelle nostre vite che, secondo alcune stime, giganti come Google, Facebook o Amazon rappresentano fino all'80% di tutti i carichi di lavoro dell'IA sui sistemi di raccomandazione.
Purtroppo, motori di questo tipo funzionano con array di dati di decine di gigabyte, ma per utilizzarli il sistema deve prima richiedere i dati corrispondenti alle unità. Allo stesso tempo, tali motori richiedono risposte quasi istantanee alle richieste in arrivo e gli array stessi richiedono aggiornamenti regolari.
Ma ET-SoC-1, secondo Esperanto e Samsung, avvicinerà questo processo alle unità: il chip può essere integrato direttamente in un SSD e leggere array di dati direttamente dalla memoria NAND. Nel concetto di tale Samsung SmartSSD, i processori centrali dei server sono impegnati solo nell'indirizzare le richieste degli utenti e tutti funzionano con array, il confronto dei dati e lo sviluppo di soluzioni ricade sulle spalle di ET-SoC-1.
Questo approccio non solo allevia i processori, ma libera anche le risorse del bus PCIe. I test preliminari mostrano che il guadagno nella larghezza di banda utilizzata tra l'SSD e la CPU può raggiungere da 10 a 100 volte, e questo nonostante il prototipo utilizzi solo una piccola frazione dei 1.088 core ET-SoC-1 - da 32 a 128 Ma l'architettura della creazione di Esperanto è modulare e non c'è nulla che impedisca all'"SSD di raccomandazione" seriale di utilizzare chip più semplici con meno blocchi ET-Minion.
2021-12-25 21:59:56
Autore: Vitalii Babkin