Microsoft Translator, un servizio di traduzione automatica multilingue basato su cloud, utilizza uno dei modelli di intelligenza artificiale più grandi al mondo per aiutare un gran numero di persone a comunicare tra loro in più lingue. Gli sviluppatori continuano a sviluppare il servizio e i server di inferenza NVIDIA Triton (output dei dati dal modello), che fanno parte della piattaforma NVIDIA AI Enterprise 2.0, li aiutano in questo.
L'obiettivo finale degli sviluppatori di Microsoft Cloud Translator è eliminare le barriere linguistiche utilizzando la stessa API che è già attivamente utilizzata per creare prodotti diversi. Considerando che nel mondo vengono utilizzate circa 7mila lingue, l'obiettivo degli sviluppatori può essere definito molto ambizioso.
Per risolvere questo problema, gli sviluppatori hanno utilizzato uno strumento potente e complesso: una miscela di esperti (MoE), che è un metodo di apprendimento automatico in cui vengono utilizzate diverse reti di esperti per dividere un'area problematica in aree omogenee. Il modello MoE offre progressi significativi nell'elaborazione del linguaggio naturale, ma è anche molto impegnativo dal punto di vista computazionale.
Gli sviluppatori hanno utilizzato i sistemi NVIDIA Triton per creare un unico modello per più attività di comprensione del testo come sintesi, generazione di testo e traduzione. In genere, vengono utilizzati diversi modelli di intelligenza artificiale per eseguire singole attività. L'algoritmo di Microsoft suddivide le attività di grandi dimensioni in molte attività più piccole e la funzione di batch dinamico di Triton consente di combinare queste richieste multiple per ottenere il massimo dalla CPU.
Nonostante la complessità dei test, gli sviluppatori di NVIDIA e Microsoft sono stati in grado di ottenere un prototipo finito del modello AI in meno di un mese. Dopo il completamento della fase di test, l'algoritmo sarà progressivamente integrato nel servizio cloud, dove in una fase iniziale si prevede di essere utilizzato per tradurre documenti in alcune delle lingue più comuni.
2022-03-23 02:24:19
Autore: Vitalii Babkin