Le premier "grand" accélérateur d'IA au monde basé sur l'architecture RISC-V de la jeune entreprise Esperanto, créé par le vétéran de l'industrie David Dietzel, qui fut à l'origine du légendaire Transmeta, peut trouver sa place dans les nouveaux SSD "intelligents" de Samsung. Le géant coréen a dévoilé des informations sur un prototype d'un tel entraînement dans le cadre de l'événement SAFE, qui a eu lieu cet automne.
L'accélérateur Esperanto ET-SoC-1 a été créé à l'origine avec un œil sur les plates-formes d'inférence économes en énergie pour divers systèmes de recommandation, et en plus de 1088 cœurs (ET-Minion), il a reçu un sous-système SRAM très volumineux (plus de 160 Mo) et un contrôleur LPDDR4 à huit canaux. Les créateurs d'ET-SoC-1 ont reçu les premiers lots de puces lancés à l'aide de la technologie de traitement 7 nm et travaillent actuellement activement sur divers scénarios d'utilisation de leur idée originale.
Mais pas seulement eux - Samsung a attiré l'attention sur ET-SoC-1. Ces systèmes sont maintenant utilisés dans tout, des plates-formes de streaming aux grands magasins et aux plates-formes de médias sociaux, le marché est donc énorme et ceux dont les moteurs de recommandation sont plus rapides et plus précis en profiteront. Ils sont si fermement ancrés dans nos vies que, selon certaines estimations, des géants tels que Google, Facebook ou Amazon représentent jusqu'à 80 % de toutes les charges de travail de l'IA sur les systèmes de recommandation.
Hélas, les moteurs de ce type fonctionnent avec des matrices de données de plusieurs dizaines de gigaoctets, mais pour les utiliser, le système doit d'abord demander les données correspondantes aux disques. Dans le même temps, ces moteurs nécessitent des réponses presque instantanées aux demandes entrantes, et les baies elles-mêmes nécessitent des mises à jour régulières.
Mais ET-SoC-1, selon Esperanto et Samsung, rapprochera ce processus des disques - la puce peut être directement intégrée dans un SSD et lire des matrices de données directement à partir de la mémoire NAND. Dans le concept d'un tel Samsung SmartSSD, les processeurs centraux des serveurs ne sont engagés que dans l'envoi des demandes des utilisateurs, et tout le travail avec les baies, la comparaison des données et le développement de solutions incombe à ET-SoC-1.
Cette approche non seulement soulage les processeurs, mais libère également les ressources du bus PCIe. Des tests préliminaires montrent que le gain de bande passante utilisée entre le SSD et le CPU peut atteindre 10 à 100 fois, et ce malgré le fait que le prototype n'utilise qu'une petite fraction des 1088 cœurs ET-SoC-1 - de 32 à 128 Mais l'architecture créée par Esperanto est modulaire, et rien n'empêche le "SSD de recommandation" série d'utiliser des puces plus simples avec moins de blocs ET-Minion.
2021-12-25 21:59:56
Auteur: Vitalii Babkin