A Intel apresentou a segunda geração de chips neuromórficos: Loihi II. De forma conceitual e arquitetônica, o novo chip, como um todo, repete a primeira geração, anunciada há quatro anos, mas possui uma série de melhorias técnicas e de software. Mas o mais interessante é que com o lançamento de Loihi II, que ainda é considerado um desenvolvimento de pesquisa, a empresa está pronta para dar os primeiros passos em direção a uma comercialização limitada dessa solução.
No âmbito da abordagem neuromofórica, os pesquisadores estão tentando recriar em hardware, com vários graus de precisão, os mecanismos subjacentes ao cérebro, que à primeira vista são bastante simples: os sinais se propagam de forma assíncrona e em paralelo ao longo de um rede de neurônios em resposta a eventos externos.
As tentativas de repetir isso dentro da estrutura do "hardware" convencional podem ser consideradas muito bem-sucedidas, porque agora você não surpreenderá ninguém com redes neurais. No entanto, essas redes exigem um treinamento preliminar caro em dados pré-rotulados, enquanto o cérebro aprende na hora. E com o crescimento da complexidade dos modelos, surge a questão da eficiência energética, não só de treinamento, mas também de execução.
O Cerebras WSE-2 pode ser considerado o "ápice da evolução" dos aceleradores de IA clássicos hoje: um chip do tamanho de um wafer de silício contém 850 mil núcleos e consome 15 kW. Mas isso não é suficiente - de acordo com os próprios desenvolvedores, apenas um cluster desses chips é capaz de funcionar com modelos de IA comparáveis em escala ao cérebro humano. E todas essas limitações têm como objetivo eliminar precisamente os sistemas neuromórficos.
Loihi II é fabricado com a tecnologia de processo EUV 4 da Intel, que ainda está em desenvolvimento. O chip tem área de 31 mm2 e contém 2,3 bilhões de transistores, e a área de um núcleo é de 0,21 mm2, ou seja, a densidade quase dobrou em relação à primeira geração. O chip ainda contém 128 núcleos neurais, mas o número de neurônios disponíveis cresceu de 128 mil para 1 milhão. A quantidade de memória por núcleo diminuiu ligeiramente, de 208 para 192 KB, mas agora os bancos de memória podem ser distribuídos de forma mais flexível entre os neurônios e sinapses, e a compressão permite que você use o volume disponível com ainda mais eficiência.
Os próprios núcleos também mudaram. Na primeira geração, eles eram otimizados para redes neurais de impulso específicas, e agora cada núcleo tem seu próprio pipeline programável, e os próprios modelos no nível do chip são configurados por microcódigo. Além disso, até 4096 bytes podem ser usados para o estado do neurônio, dependendo das tarefas (anteriormente eram apenas 24 bytes). O número de sinapses por chip diminuiu de 128 para 12 milhões, mas eles receberam uma atualização significativa - um valor INT32 é usado para codificar o sinal, em vez de um binário (sim / não).
Juntos, isso permite que você use o aprendizado (inclusive em tempo real) com um terceiro fator. No entanto, o conjunto de instruções dos núcleos neuromórficos ainda é simples. Inclui operações aritméticas básicas, turnos, ramificação, memória / registro e manipulação de pulso. Os próprios núcleos são conectados por uma rede de malha 8 × 16 rápida, e mais seis núcleos dedicados (anteriormente eram apenas três) com aceleração de hardware das tarefas correspondentes são responsáveis pela configuração da rede, (des) codificação de dados e controle de transmissão de pulso .
O efeito total de todas as inovações é tal que a Loihi II é mais rápida do que a Loihi de primeira geração em cerca de uma ordem de magnitude. Além disso, ele recebeu escalabilidade aprimorada: até 1000 núcleos no próprio chip, e você também pode formar uma rede de malha tridimensional de chips graças a seis controladores de I / O dedicados em cada um deles e linhas quatro vezes mais rápidas. E para comunicação com o mundo exterior, interfaces padrão SPI / AER, GPIO e 1 / 2,5 / 10GbE estão agora disponíveis.
O primeiro dispositivo baseado em Loihi II foi o cartão de chip único Oheo Gulch para desenvolvimento e depuração de software. Atualmente, está disponível apenas para parceiros selecionados da Intel na Neuromorphic Research Cloud. O próximo dispositivo será a placa Kapoho Point compacta (4 "× 4"), que já carrega oito chips Loihi II e fornece Ethernet e GPIO, além de várias interfaces para sensores e atuadores. As placas podem ser conectadas diretamente umas às outras para facilitar a expansão do poder de computação. No futuro, será possível integrar chips em SoCs híbridos para diversas tarefas, bem como o surgimento de soluções para data centers.
Em geral, as áreas de aplicação e tarefas dos novos produtos coincidem com aquelas que agora são servidas por redes neurais "clássicas" (ajustadas para eficiência energética). No entanto, um "hardware" para distribuição não é suficiente, por isso a Intel preparou um framework open source universal LAVA, que irá unificar o desenvolvimento e preparação de modelos para quase todas as soluções de hardware (não apenas neuromórficas), levando em consideração as especificidades dos arquiteturas.
2021-09-30 16:20:44
Autor: Vitalii Babkin