Der NeuRRAM-Chip ist der erste In-Memory-Computing-Chip, der eine breite Palette von KI-Anwendungen demonstriert und nur einen kleinen Prozentsatz der von anderen Plattformen verbrauchten Energie verbraucht, während er die gleiche Genauigkeit beibehält.
NeuRRAM, ein neuer Chip, der Berechnungen direkt im Speicher durchführt und eine breite Palette von KI-Anwendungen ausführen kann, wurde von einem internationalen Forscherteam entwickelt und gebaut. Was es auszeichnet, ist, dass es all dies für einen Bruchteil der Energie tut, die von Allzweck-KI-Computing-Plattformen verbraucht wird.
Der neuromorphe NeuRRAM-Chip bringt die KI näher an die Ausführung auf einer Vielzahl von Peripheriegeräten, die von der Cloud getrennt sind. Das bedeutet, dass sie überall und jederzeit komplexe kognitive Aufgaben ausführen können, ohne auf eine Netzwerkverbindung zu einem zentralen Server angewiesen zu sein. Anwendungen für dieses Gerät gibt es in jedem Winkel der Welt und in jedem Aspekt unseres Lebens. Sie reichen von Smartwatches bis hin zu Virtual-Reality-Headsets, intelligenten Kopfhörern, intelligenten Sensoren in Fabriken und Rovern für die Planetenerkundung.
Der NeuRRAM-Chip ist nicht nur in Bezug auf den Stromverbrauch mehr als doppelt so effizient wie die heutigen In-Memory-Computing-Chips, eine innovative Klasse von Hybridchips, die In-Memory-Computing durchführen, er liefert auch so genaue Ergebnisse wie herkömmliche digitale Chips. Herkömmliche KI-Plattformen sind viel größer und beschränken sich im Allgemeinen auf die Verwendung großer Datenserver, die in der Cloud ausgeführt werden.
Darüber hinaus ist der NeuRRAM-Chip sehr vielseitig und unterstützt viele verschiedene neuronale Netzwerkmodelle und -architekturen. Dadurch kann der Chip für viele verschiedene Anwendungen eingesetzt werden, darunter Bilderkennung und -rekonstruktion sowie Spracherkennung.
Es ist üblich zu glauben, dass eine höhere Speicher-Computing-Effizienz auf Kosten der Vielseitigkeit geht, aber unser NeuRRAM-Chip bietet Effizienz ohne Einbußen bei der Vielseitigkeit“, sagte Weyer Wang, Erstautor des Artikels.
Derzeit ist KI-Computing energieintensiv und rechenintensiv. Die meisten KI-Anwendungen auf Edge-Geräten beinhalten das Verschieben von Daten von Geräten in die Cloud, wo KI sie verarbeitet und analysiert. Die Ergebnisse werden dann zurück auf das Gerät übertragen. Dies ist notwendig, da die meisten Peripheriegeräte batteriebetrieben sind und daher nur eine begrenzte Menge an Rechenleistung zur Verfügung haben.
Durch die Reduzierung des Stromverbrauchs, der für die KI-Inferenz am Edge erforderlich ist, kann der NeuRRAM-Chip zu zuverlässigeren, intelligenteren und erschwinglicheren Edge-Geräten und einer intelligenteren Fertigung führen.
Es kann auch zu mehr Datenschutz führen, da die Übertragung von Daten von Geräten in die Cloud mit erhöhten Sicherheitsrisiken verbunden ist.
Bei KI-Chips ist das Verschieben von Daten vom Speicher auf Computergeräte einer der größten Engpässe. Das entspricht einem achtstündigen Arbeitsweg für einen zweistündigen Arbeitstag“, sagte Weier Wang.
Um dieses Problem bei der Datenübertragung zu lösen, nutzten die Forscher den sogenannten resistiven Arbeitsspeicher. Diese Art von nichtflüchtigem Speicher ermöglicht es, Berechnungen direkt im Speicher statt in separaten Recheneinheiten durchzuführen.
Chipleistung:
Die Forscher maßen die Energieeffizienz des Chips in einer Metrik, die als EDP (Energy-Delay Product) bekannt ist.
Das EDP kombiniert sowohl die Menge an Energie, die für jeden Vorgang verbraucht wird, als auch die Zeit, die benötigt wird, um den Vorgang abzuschließen. Demnach bietet der NeuRRAM-Chip eine 1,6- bis 2,3-fache Reduzierung der EDV (je weniger, desto besser) und eine 7- bis 13-mal höhere Rechendichte als moderne Chips.
Ingenieure führten verschiedene KI-Aufgaben auf einem Chip durch. Es erreichte eine Genauigkeit von 99 % bei der Erkennung handschriftlicher Ziffern; 85,7 % auf die Aufgabe der Bildklassifizierung; und 84,7 % bei der Aufgabe, Google-Sprachbefehle zu erkennen.
Darüber hinaus erreichte der Chip auch eine 70-prozentige Reduzierung von Bildrekonstruktionsfehlern bei der Bildwiederherstellungsaufgabe. Diese Ergebnisse sind vergleichbar mit bestehenden digitalen Chips, die Berechnungen mit der gleichen Genauigkeit, aber mit deutlich höherem Stromverbrauch durchführen.
Die Forscher stellen fest, dass eines der wichtigsten Ergebnisse der Arbeit darin besteht, dass alle präsentierten Ergebnisse direkt an der Ausrüstung erzielt wurden. In vielen früheren Arbeiten zu Speicher-Computing-Chips wurden KI-Testergebnisse oft teilweise aus Software-Simulationen abgeleitet.
Die nächsten Schritte umfassen die Verbesserung der Architektur und der Schaltkreise sowie die Skalierung des Projekts auf Knoten mit fortschrittlicheren Technologien. Die Ingenieure planen auch, sich mit anderen Anwendungen wie neuronalen Impulsnetzen zu befassen.
Open Access veröffentlicht in der Zeitschrift Nature.
2022-08-22 16:40:46
Autor: Vitalii Babkin