Meta a annoncé la création du AI Research SuperCluster (RSC), un nouveau supercalculateur conçu pour travailler avec des tâches d'intelligence artificielle. Selon l'entreprise, il deviendra bientôt le plus rapide du monde. Le supercalculateur est le résultat de près de deux ans de travail, dont certains ont été effectués à distance au plus fort de la pandémie de coronavirus.
Les travaux sur le supercalculateur ont été menés par les équipes d'intelligence artificielle et d'infrastructure de Meta. Plusieurs centaines de spécialistes ont participé au projet, dont des employés d'entreprises telles que NVIDIA, Penguin Computing et Pure Storage. Meta a déclaré que son équipe de recherche utilise actuellement le supercalculateur pour former des modèles d'intelligence artificielle au traitement du langage naturel et à la vision par ordinateur pour la recherche. L'objectif est de renforcer les modèles entraînables avec plus d'un billion de paramètres en utilisant des ensembles de données allant jusqu'à des exaoctets, soit à peu près l'équivalent de 36 000 ans de vidéo de haute qualité.
"Les expériences que nous créons pour le métaverse nécessitent une puissance de calcul massive, et RSC permettra la création de nouveaux modèles d'IA capables d'apprendre à partir de milliards d'exemples, de comprendre des centaines de langues, et plus encore", a déclaré Mark Zuckerberg, PDG de Meta.
Meta rapporte que son nouveau supercalculateur se compose actuellement de 760 systèmes NVIDIA DGX A100, qui contiennent ensemble 6080 accélérateurs NVIDIA A100, ce qui en fait le cinquième supercalculateur le plus rapide au monde. Les clusters sont connectés par NVIDIA Quantum sur InfiniBand avec une bande passante de 200 Gbps.
D'ici le milieu de l'été, lorsque le RSC sera entièrement construit, il contiendra environ 16 000 GPU NVIDIA A100, selon Meta, ce qui en fera le supercalculateur IA le plus rapide au monde. Il est rapporté qu'il sera capable de traiter jusqu'à 16 To de données par seconde. La société a refusé de divulguer l'emplacement de l'ordinateur et le coût du projet.
L'intelligence artificielle nécessite généralement qu'un ordinateur effectue une énorme quantité de calculs de faible précision en même temps. Pour cette tâche, les GPU sont très bien adaptés, ayant des milliers de cœurs de traitement fonctionnant simultanément. Les supercalculateurs conventionnels sont optimisés pour des opérations de haute précision, tandis que les ordinateurs IA fonctionnent à des niveaux de précision beaucoup plus faibles, ce qui permet une augmentation significative de la vitesse de calcul sans affecter les résultats finaux. Infrastructure de haute performance telle qu'un supercalculateur. nécessaire pour traiter la quantité de données dont dispose Meta.
Il est rapporté que le supercalculateur Meta est utilisé à des fins de recherche, et il est peu probable que des produits basés sur celui-ci apparaissent dans les années à venir. L'objectif de l'entreprise est censé être de créer des modèles d'IA qui peuvent fonctionner comme un cerveau humain et même fournir une compréhension contextuelle des situations. Ils pourront travailler dans des centaines de langues, analyser des textes, des images, des vidéos et développer des outils de réalité augmentée. Cette technologie aidera Meta à identifier plus facilement et plus précisément les contenus malveillants, tout en permettant aux chercheurs de l'entreprise de développer des modèles d'IA capables de penser comme un humain et d'offrir une expérience multidimensionnelle riche dans le métaverse.
2022-01-25 07:02:20
Auteur: Vitalii Babkin