Microsoft Translator, ein cloudbasierter mehrsprachiger maschineller Übersetzungsdienst, verwendet eines der weltweit größten Modelle künstlicher Intelligenz, um einer großen Anzahl von Menschen zu helfen, in mehreren Sprachen miteinander zu kommunizieren. Die Entwickler entwickeln den Dienst weiter und NVIDIA Triton Inference Server (Datenausgabe aus dem Modell), die Teil der NVIDIA AI Enterprise 2.0-Plattform sind, helfen ihnen dabei.
Das ultimative Ziel der Microsoft Cloud Translator-Entwickler ist es, Sprachbarrieren zu beseitigen, indem dieselbe API verwendet wird, die bereits aktiv zum Erstellen verschiedener Produkte verwendet wird. Angesichts der Tatsache, dass weltweit etwa 7.000 Sprachen verwendet werden, kann das Ziel der Entwickler als sehr ehrgeizig bezeichnet werden.
Um dieses Problem zu lösen, nutzten die Entwickler ein mächtiges und komplexes Werkzeug – eine Expertenmischung (MoE), eine Methode des maschinellen Lernens, bei der mehrere Expertennetzwerke verwendet werden, um einen Problembereich in homogene Bereiche zu unterteilen. Das MoE-Modell bietet erhebliche Fortschritte bei der Verarbeitung natürlicher Sprache, ist aber auch sehr rechenintensiv.
Die Entwickler verwendeten NVIDIA Triton-Systeme, um ein einziges Modell für mehrere Textverständnisaufgaben wie Zusammenfassung, Textgenerierung und Übersetzung zu erstellen. Typischerweise werden verschiedene KI-Modelle verwendet, um einzelne Aufgaben auszuführen. Der Algorithmus von Microsoft zerlegt große Aufgaben in viele kleinere, und die dynamische Stapelfunktion von Triton ermöglicht es, diese mehreren Anforderungen zu kombinieren, um das Beste aus der CPU herauszuholen.
Trotz der Komplexität des Testens konnten Entwickler von NVIDIA und Microsoft in weniger als einem Monat einen fertigen Prototyp des KI-Modells erhalten. Nach Abschluss der Testphase wird der Algorithmus schrittweise in den Cloud-Dienst integriert, wo er in der Anfangsphase zur Übersetzung von Dokumenten in mehrere der gängigsten Sprachen eingesetzt werden soll.
2022-03-23 02:24:19
Autor: Vitalii Babkin