Enflame, qui présentait cet été des accélérateurs basés sur la deuxième génération de ses puces DTU AI, a sorti un nouvel accélérateur d'inférence Cloudblazer Yunsui i20 avec une puce Suixi 2.5. Il est fabriqué à l'aide du processus FinFET 12 nm de GlobalFoundries et possède une architecture hautes performances mise à jour des cœurs de calcul GCU-CARE 2.0, grâce à laquelle, selon les créateurs, il a été possible d'atteindre une efficacité comparable à celle du GPU 7 nm grand public.
Parmi les principales caractéristiques du nouveau produit, la société note la puissance de calcul accrue, la possibilité d'effectuer des calculs tenseurs, vectoriels et scalaires, l'API pour C++ et Python, ainsi que la prise en charge des principaux frameworks et formats de modèle (TensorFlow, PyTorch , ONNX). Le logiciel fourni offre des options de migration flexibles avec prise en charge des technologies de virtualisation, ainsi que des environnements multi-utilisateurs et multitâches avec isolation sécurisée des processus.
Le Yunsui i20 dispose de 16 Go de mémoire HBM2e avec une bande passante allant jusqu'à 819 Go/s. Le nouveau produit prend en charge tous les formats clés et fournit une plate-forme d'inférence universelle, y compris pour les nuages. Les performances de calcul de pointe FP32 atteignent 32 téraflops, TF32 (il n'est pas spécifié s'il s'agit de compatibilité avec NVIDIA) - 128 téraflops, FP16 / BF16 - 128 téraflops et INT8 atteint 256 tops. Par rapport à la première génération de produits, Yunsui i20 a augmenté les performances FP de 1,8 fois et le calcul INT de 3,6 fois.
les performances dans les calculs FP32, TF32, FP16/BF16 et INT8 sont de 19,5, 156, 312 et 624 téraflops (Tops pour INT), et le volume de mémoire et la bande passante sont respectivement de 40/80 Go et 1555/1935 Go/s. L'AMD MI100 dispose de 32 Go de mémoire HBM2 (1,23 To/s), et les performances des FP32, FP16 et BF16 sont respectivement de 46,1, 184,6 et 92,3 téraflops. Les trois accélérateurs ont une interface PCIe 4.0.
L'optimisation de la pile logicielle propriétaire TopsRider a contribué de manière significative à l'amélioration des performances, grâce à laquelle la charge sur le sous-système de mémoire a été réduite. En conséquence, les performances moyennes d'exécution du modèle ont été multipliées par 3,5 et l'efficacité d'utilisation de la puissance de calcul - en moyenne 2 fois. De plus, le nouveau modèle de programmation et les technologies d'automatisation peuvent accélérer l'efficacité du développement et réduire le coût de la migration des modèles. L'entreprise est convaincue que tout cela fera du Yunsui i20 une solution plus compétitive.
Grâce à la technologie de virtualisation, Yunsui i20 peut être divisé en 6 domaines indépendants isolés les uns des autres - ceci n'était auparavant proposé que par NVIDIA. Avec d'autres produits qui sont également entièrement migrés vers la prochaine génération d'accélérateurs d'IA, Enflame espère gagner des parts de marché importantes dans des secteurs innovants tels que les villes intelligentes et le gouvernement numérique, ainsi que dans les industries traditionnelles telles que la finance, les transports et l'énergie, où des technologies plus avancées seront nécessaires.
Malgré les succès évidents obtenus par l'équipe Enflame et d'autres développeurs chinois - YITU Technology SoC pour l'apprentissage en profondeur, puce Horizon Robotics Sunrise 2 IoT avec capacités d'IA intégrées, Hanguang 800 de T-Head Semiconductor (filiale d'Alibaba), série Huawei Ascend et autres - les fabricants étrangers de puces IA, selon le Quotidien du Peuple, dominent toujours le marché chinois avec une part de plus de 80%.
2021-12-14 18:50:40
Auteur: Vitalii Babkin