Der weltweit erste „große“ KI-Beschleuniger auf Basis der RISC-V-Architektur des jungen Unternehmens Esperanto, geschaffen von Branchenveteran David Dietzel, der den Ursprung der legendären Transmeta hatte, kann in Samsungs neuen „smarten“ SSDs seinen Platz finden. Der koreanische Riese gab im Rahmen des SAFE-Events, das in diesem Herbst stattfand, Informationen über einen Prototyp eines solchen Antriebs bekannt.
Der Esperanto ET-SoC-1-Beschleuniger wurde ursprünglich mit Blick auf energieeffiziente Inferenzplattformen für verschiedene Empfehlungssysteme entwickelt und erhielt neben 1088 Kernen (ET-Minion) ein sehr umfangreiches SRAM-Subsystem (mehr als 160 MB) und ein Acht-Kanal-LPDDR4-Controller. Die Schöpfer von ET-SoC-1 erhielten die ersten Chargen von Chips, die mit der 7-nm-Prozesstechnologie veröffentlicht wurden, und arbeiten derzeit aktiv an verschiedenen Szenarien für die Verwendung ihrer Idee.
Aber nicht nur sie – Samsung machte auf ET-SoC-1 aufmerksam. Diese Systeme werden jetzt in allem verwendet, von Streaming-Plattformen bis hin zu großen Geschäften und Social-Media-Plattformen, daher ist der Markt riesig, und diejenigen, deren Empfehlungsmaschinen schneller und genauer sind, werden davon profitieren. Sie sind so fest in unserem Leben verankert, dass nach einigen Schätzungen Giganten wie Google, Facebook oder Amazon bis zu 80 % aller KI-Arbeitslasten auf Empfehlungssystemen ausmachen.
Leider arbeiten solche Engines mit Daten-Arrays von mehreren zehn Gigabyte, aber um sie nutzen zu können, muss das System zuerst die entsprechenden Daten von den Laufwerken anfordern. Gleichzeitig erfordern solche Engines fast sofortige Antworten auf eingehende Anfragen, und die Arrays selbst erfordern regelmäßige Updates.
Aber ET-SoC-1, so Esperanto und Samsung, wird diesen Prozess näher an Laufwerke bringen – der Chip kann direkt in eine SSD integriert werden und Arrays von Daten direkt aus dem NAND-Speicher auslesen. Im Konzept einer solchen Samsung SmartSSD sind die zentralen Prozessoren der Server nur mit dem Versenden von Benutzeranfragen beschäftigt, und die gesamte Arbeit mit Arrays, Datenvergleich und Lösungsentwicklung fällt auf die Schultern von ET-SoC-1.
Dieser Ansatz entlastet nicht nur Prozessoren, sondern setzt auch PCIe-Bus-Ressourcen frei. Vorläufige Tests zeigen, dass der Zuwachs der genutzten Bandbreite zwischen SSD und CPU das 10- bis 100-fache erreichen kann, und das, obwohl der Prototyp nur einen kleinen Bruchteil der 1.088 ET-SoC-1-Kerne verwendet - von 32 auf 128 Aber die Architektur von Esperanto ist modular aufgebaut, und nichts hindert die serielle "Empfehlungs-SSD" daran, einfachere Chips mit weniger ET-Minion-Blöcken zu verwenden.
2021-12-25 21:59:56
Autor: Vitalii Babkin