Hypnos teilt kontinuierliches Lernen zwischen zwei Stationen auf: Ein RISC-V-Gerät aktualisiert während des Betriebs Klassenprototypen und speichert komprimierte Repräsentationen. Ein intelligentes Ladegerät nutzt diese später für eine aufwendigere Konsolidierung mit Replay und Gradientenschritten. Die Forschenden berichten für den Benchmark CORe50 NICv2-391 über 78,6 bis 81,6 Prozent Genauigkeit und 7,79 bis 10,54 Sekunden Latenz pro Beispiel, jeweils abhängig von der Aktivierungspräzision. Der Abstract des Hypnos-Papers beschreibt die Architektur und diese Ergebnisse.
Wie Hypnos das Lernen zwischen Gerät und Ladegerät aufteilt
Das Gerät passt den Klassifikator ohne Fehler-Rückpropagierung an. Dafür aktualisiert es Prototypen – gespeicherte Repräsentationen von Klassen – und hält komprimierte Merkmale fest. Beim Replay nutzt das Ladegerät diese gespeicherten Beispiele erneut, um das Modell mit Gradientenschritten weiter zu trainieren. Anschließend gehen die konsolidierten Parameter zurück an das Gerät.
Die Aufteilung hält die laufende Anpassung auf dem RISC-V-Gerät vergleichsweise leicht und verlagert die rechenintensivere Phase auf das Ladegerät mit Netzstrom und mehr Speicher. Für die beschriebene Architektur ist kein Cloud-Trainingsserver erforderlich. Wer die Rolle von RISC-V-Kernen und KI-Beschleunigern näher verstehen möchte, findet dazu eine Einführung bei NeoTeo.
Bei Hypnos bedeutet „Lernen am Rand“ nicht, dass jede Trainingsphase auf dem Gerät läuft: Die Anpassung und die Konsolidierung sind auf Gerät und Ladegerät verteilt.
Auf welcher Hardware die Forschenden Hypnos untersuchten
Die Forschenden nennen eine ZCU104-FPGA für die Evaluation und eine Synthese im 28-nm-Prozess. Die FPGA-Auswertung und der Syntheseschritt beschreiben die Bedingungen der Forschungsarbeit. Für die Zahlen im Abstract ist außerdem wichtig, dass die Aktivierungspräzision variiert: Sie beeinflusst sowohl die angegebene Genauigkeits- als auch die Latenzspanne.
Was die berichteten Ergebnisse aussagen
Auf CORe50 NICv2-391 liegt die berichtete Genauigkeit je nach Aktivierungspräzision zwischen 78,6 und 81,6 Prozent. Die Latenz beträgt 7,79 bis 10,54 Sekunden pro Beispiel. Diese Latenzwerte beziehen sich auf die Verarbeitung am Gerät; die spätere Konsolidierung auf dem Ladegerät ist ein eigener Arbeitsschritt.
Im Vergleich zu quantisiertem Latent Replay berichten die Forschenden von 3,8-mal weniger Lernschritten und 22-mal geringerem Rechenaufwand für das Lernen. Zugleich nennen sie eine höhere Genauigkeit und vergleichbare Latenz. Das sind Ergebnisse des beschriebenen Forschungsbenchmarks, keine Messwerte eines kommerziellen Produkts.