Microsoft Translator, un service de traduction automatique multilingue basé sur le cloud, utilise l'un des plus grands modèles d'intelligence artificielle au monde pour aider un grand nombre de personnes à communiquer entre elles dans plusieurs langues. Les développeurs continuent de développer le service et les serveurs d'inférence NVIDIA Triton (sortie de données du modèle), qui font partie de la plate-forme NVIDIA AI Enterprise 2.0, les y aident.
L'objectif ultime des développeurs de Microsoft Cloud Translator est d'éliminer les barrières linguistiques en utilisant la même API qui est déjà activement utilisée pour créer différents produits. Considérant qu'environ 7 000 langues sont utilisées dans le monde, l'objectif des développeurs peut être qualifié de très ambitieux.
Pour résoudre ce problème, les développeurs ont utilisé un outil puissant et complexe - un mélange d'experts (MoE), qui est une méthode d'apprentissage automatique dans laquelle plusieurs réseaux d'experts sont utilisés pour diviser une zone problématique en zones homogènes. Le modèle MoE fournit des avancées significatives dans le traitement du langage naturel, mais il est également très exigeant en termes de calcul.
Les développeurs ont utilisé les systèmes NVIDIA Triton pour créer un modèle unique pour plusieurs tâches de compréhension de texte telles que la synthèse, la génération de texte et la traduction. En règle générale, différents modèles d'IA sont utilisés pour effectuer des tâches individuelles. L'algorithme de Microsoft décompose les tâches volumineuses en plusieurs tâches plus petites, et la fonction de traitement par lots dynamique de Triton permet de combiner ces multiples requêtes pour tirer le meilleur parti du processeur.
Malgré la complexité des tests, les développeurs de NVIDIA et Microsoft ont pu obtenir un prototype fini du modèle d'IA en moins d'un mois. Après l'achèvement de la phase de test, l'algorithme sera progressivement intégré au service cloud, où, au stade initial, il est prévu d'être utilisé pour traduire des documents dans plusieurs des langues les plus courantes.
2022-03-23 02:24:19
Auteur: Vitalii Babkin