Architecture Day의 일환으로 Intel은 곧 출시될 Sapphire Rapids 서버 프로세서에 대해 이야기하면서 이전에 게시된 대부분의 정보를 확인하고 일부 세부 정보를 보완했습니다. 인텔은 현재 인기 있는 마이크로서비스, 컨테이너화 및 가상화를 포함하여 이전보다 더 광범위한 작업 및 워크로드를 위한 솔루션으로 신제품을 포지셔닝하고 있습니다. 회사는 CPU가 연산, 메모리 및 I/O 측면에서 균형을 이룰 것이라고 약속합니다.
새로운 프로세서는 마침내 칩렛 또는 인텔 용어로 타일 레이아웃을 갖게 되었습니다. SoC에는 인텔 7 프로세스 기술(10nm Enhanced SuperFIN)을 기반으로 하는 4개의 "코어" 타일이 포함됩니다. 각 타일은 EMIB를 통해 인접 타일에 연결됩니다. 최대 100+MB의 총 L3 캐시를 포함하는 시스템 에이전트는 한 방향으로 약 4-8ns의 대기 시간으로 빠른 메시 네트워크를 형성합니다. 외부에서 프로세서는 모놀리식으로 "보여집니다".
각 코어 또는 스레드는 캐시, 메모리, 가속기 및 IO 블록을 포함하여 인접 타일의 모든 리소스에 무료로 액세스할 수 있습니다. 잠재적으로 이 접근 방식은 모든 칩렛에 대해 공통 IO 단위를 사용하는 AMD의 경우보다 내부 데이터 교환의 관점에서 더 유리합니다. 미래의 EPYC는 이미 12가 될 것입니다. 그러나 실제로 어떻게 될 것인지 알게 될 것입니다. 내년에만 - Sapphire Rapids의 출시는 2022년 1분기로 예정되어 있으며 2분기에 대량 생산이 예정되어 있습니다.
Sapphire Rapids는 더 넓고 깊고 스마트한 Golden Cove 마이크로아키텍처를 기반으로 합니다. 고성능 Alder Lake 코어에도 사용되지만 서버 프로세서의 경우 약간의 차이가 있습니다. 예를 들어, L2 캐시는 코어당 2MB 또는 새로운 AMX(Advanced Matrix Extension) 명령어 세트로 증가했습니다. 후자는 CPU의 AI 기능을 확장하고 이러한 종류의 워크로드에 일반적인 행렬에 대한 MAC 작업을 허용합니다.
AMX의 경우 볼륨이 각각 1KB인 8개의 전용 2D 레지스터가 있습니다(16개의 64바이트 라인). 별도의 하드웨어 장치는 3개의 레지스터에서 MAC 연산을 수행하며, 이는 나머지 커널에서 다른 명령어의 실행과 병렬로 수행될 수 있습니다. 레지스터의 매개변수와 내용 설정, 데이터 이동은 OS에서 처리합니다. 지금까지는 MAC 블록만 프로세서에 표시되지만 앞으로는 더 복잡한 다른 작업을 위한 블록이 나타날 수 있습니다.
최고점에 INT8의 AMX 성능은 코어당 사이클당 2048 작업으로 기존 AVX-512 명령어(2개의 FMA 포트에서)보다 8배 더 빠릅니다. BF16에서 AMX 성능은 2배 낮지만 이전 세대 Xeon에 비해 여전히 상당한 증가입니다. Intel은 여전히 추론뿐만 아니라 AI 모델 교육에도 대처할 수 있는 범용 코어를 만들려고 노력하고 있습니다. 그러나 회사는 AMX의 CPU 기능이 GPU와 직접 경쟁하기보다는 GPU를 보완할 것이라고 말합니다.
이 데이터 형식에 대한 지원이 Intel CPU에서 처음 등장한 Cooper Lake가 적용 범위가 다소 좁기 때문에 BF16을 마침내 더 널리 보급해야 하는 것은 Sapphire Rapids입니다. 다른 아키텍처 업데이트에는 AVX-512에 대한 FP16 지원, 빠른 추가를 위한 명령(FADD) 및 캐시 계층 구조의 보다 효율적인 데이터 관리(CLDEMOTE), 가상 머신(VM)용 TLB 및 메모리 작업을 위한 여러 새로운 명령 및 인터럽트가 포함됩니다. , 마이크로초 카운트가 포함된 고급 원격 측정 등이 있습니다.
일반적으로 마지막 포인트는 프로세스, 컨테이너 및 VM에 대한 보다 효율적이고 지능적인 리소스 관리 및 QoS에 필요합니다. 이 모든 요소는 어떻게든 오버헤드 비용을 줄입니다. 전용 액셀러레이터가 작업 속도를 더욱 높여줍니다. 지금까지 두 가지만 언급되었습니다. 첫 번째인 DSA(Data Streaming Accelerator)는 단일 호스트 내 및 여러 호스트 간의 데이터 이동 및 전송 속도를 높입니다. 이것은 메모리, 스토리지, 네트워크 트래픽 및 가상화를 처리할 때 유용합니다.
언급된 두 번째 액셀러레이터는 QAT(Quick Assist Engine)로, 작업 또는 동시에 일련의 작업(역할) 압축(동시에 양방향으로 최대 160Gbps), 해싱 및 암호화(최대 ~ 400Gbps) 인기 알고리즘: AES GCM/XTS, ChaChaPoly, DH, ECC 등 이제 QAT 블록은 프로세서 자체의 일부가 되었지만 이전에는 일부 칩셋의 일부 또는 별도의 확장 카드로 사용할 수 있었습니다. 이를 통해 지연을 줄이고 블록 성능을 높일 수 있었습니다.
또한 QAT는 예를 들어 가상화 또는 Intel Accelerator Interface Architecture(AiA)에 사용할 수 있습니다. AiA는 통합 및 개별 가속기와 함께 보다 효율적으로 작동하도록 설계된 또 다른 새로운 명령어 세트입니다. AiA는 제어, 타이밍 및 신호 전달을 도와 사용자 공간 가속기와 상호 작용할 때 오버헤드의 일부를 다시 줄일 수 있습니다.
메모리 하위 시스템에는 타일당 하나씩 4개의 듀얼 채널 DDR5 컨트롤러가 포함되어 있습니다. 아마도 4개의 사용 가능한 NUMA 도메인이 있을 것입니다. 언급된 차세대 Intel Optane PMem 300(Crow Pass) 지원 외에 자세한 내용은 제공되지 않았습니다. 그러나 온보드 HBM이 있는 모델의 존재가 공식적으로 확인되었으며 타일당 하나의 모듈이기도 합니다. HBM은 DRAM 캐시로 또는 독립적으로 사용할 수 있습니다. 어떤 경우에는 DRAM 없이도 가능합니다.
PCIe 5.0 및 CXL 1.1(CXL.io, CXL.cache, CXL.memory)에 대해 추가할 사항은 없지만 다른 보고서에서 Intel은 CXL을 하나의 노드 내에서 뿐만 아니라 랙 수준의 미래. CPU를 결합하기 위해(최대 8S까지) UPI 버스는 계속 사용되지만 이미 2세대(라인당 16GT/s) - 타일당 24라인입니다.
특히 Sapphire Rapids의 경우 Intel은 Ice Lake-SP와 비교하여 IPC의 성장에 대한 정확한 데이터를 아직 제공하지 않았으며 일부 작업 및 영역의 개별 수치로만 제한했습니다. 다른 많은 중요한 매개변수도 지정되지 않았습니다. 그러나 최신 유출에 따르면 AMD EPYC Genoa는 순전히 양적 특성에서도 Sapphire Rapids를 눈에 띄게 앞서고 있습니다.
2021-08-19 15:22:46
작가: Vitalii Babkin