클라우드 기반 다국어 기계 번역 서비스인 Microsoft Translator는 세계 최대 인공 지능 모델 중 하나를 사용하여 많은 사람들이 여러 언어로 서로 의사 소통할 수 있도록 지원합니다. 개발자는 계속해서 서비스를 개발하고 있으며 NVIDIA AI Enterprise 2.0 플랫폼의 일부인 NVIDIA Triton 추론 서버(모델의 데이터 출력)가 이를 지원합니다.
Microsoft Cloud Translator 개발자의 궁극적인 목표는 이미 다른 제품을 만드는 데 적극적으로 사용되는 동일한 API를 사용하여 언어 장벽을 제거하는 것입니다. 전 세계적으로 약 7,000개의 언어가 사용되는 것을 감안하면 개발자들의 목표는 매우 야심차다고 할 수 있다.
이 문제를 해결하기 위해 개발자는 여러 전문가 네트워크를 사용하여 문제 영역을 동종 영역으로 나누는 기계 학습 방법인 MoE(Mixed Experts)라는 강력하고 복잡한 도구를 사용했습니다. MoE 모델은 자연어 처리에서 상당한 발전을 제공하지만 계산적으로 매우 까다롭습니다.
개발자는 NVIDIA Triton 시스템을 사용하여 요약, 텍스트 생성 및 번역과 같은 여러 텍스트 이해 작업을 위한 단일 모델을 구축했습니다. 일반적으로 개별 작업을 수행하는 데 서로 다른 AI 모델이 사용됩니다. Microsoft의 알고리즘은 큰 작업을 여러 개의 작은 작업으로 나눕니다. Triton의 동적 일괄 처리 기능을 사용하면 이러한 여러 요청을 결합하여 CPU를 최대한 활용할 수 있습니다.
테스트의 복잡성에도 불구하고 NVIDIA와 Microsoft의 개발자는 한 달도 채 되지 않아 AI 모델의 완성된 프로토타입을 얻을 수 있었습니다. 테스트 단계가 완료된 후 알고리즘은 클라우드 서비스에 점진적으로 통합되며 초기 단계에서는 문서를 가장 일반적인 여러 언어로 번역하는 데 사용할 계획입니다.
2022-03-23 02:24:19
작가: Vitalii Babkin