Spiking Neural Networks

Highlights

Neuromorphe Prozessoren sind dem menschlichen Gehirn nachempfunden. Ihre Entwicklung ist von entscheidender Bedeutung: Mit ihnen lassen sich extrem intelligente Prozesse entwerfen und sogenannte Sparse Events verarbeiten.
Neuromorphes Computing ermöglicht Echtzeitprozesse mit geringer Latenzzeit bei deutlich geringerem Energieverbrauch.
Fortschritte im neuromorphen Computing könnten die Energieprobleme verringern, die durch die Dennard-Skalierung, das mooresche Gesetz und den Von-Neumann-Flaschenhals ausgelöst werden.

Insights in this article

Was ist ein SNN

Spiking Neural Networks: Die Zukunft des neuromorphen Computings

Spiking Neural Networks (SNN) sind neuronale Netzwerkmodelle der dritten Generation. Sie basieren auf speziellen Netzwerktopologien, die den gesamten Rechenprozess intelligenter und energieeffizienter machen. Das ist für die Leistung kleiner Geräte entscheidend.

Mit seiner dreischichtigen Feedforward-Netzwerktopologie ist das SNN eines der leistungsfähigsten neuronalen Netze. Aufgrund der hohen Rechenleistung und der fortschrittlichen Topologie sind SNN ideal für Robotik- und Computer-Vision-Anwendungen, die eine Datenverarbeitung in Echtzeit erfordern.

SNN erleichtern es, Echtzeitdaten zu erfassen und zu verarbeiten. Sie stellen eine wesentliche Verbesserung gegenüber anderen neuronalen Netzen dar, die hauptsächlich auf Frequenz- und nicht auf Zeitdaten basieren.

SNN ist eines der performantesten neuronalen Netze und kann dynamische Daten in Echtzeit verarbeiten.

SNN sind rechenintensiver und die Feuerungsaktivität der Neuronen in ihrer Architektur ist nicht statisch an Eingabewerte gebunden, sondern vom Zeitpunkt ihrer Aktivierung abhängig.

Kernarchitektur

Wie SNN die Zukunft gestalten

Ein SNN besteht aus Milliarden Neuronen, die über einen dreischichtigen Mechanismus eng miteinander verbunden sind. Diese drei Schichten – Eingabeschicht, verborgene Schicht und Ausgabeschicht – arbeiten zusammen und ahmen so die Funktionsweise des menschlichen Gehirns nach. Mit anderen Worten: In einem SNN gibt es keine Trennung zwischen der Wahrnehmung und der Verarbeitung von Daten.

Stattdessen findet der gesamte Prozess in einem Schritt statt: Die Vektoren der Eingabeschicht sind mit denen der versteckten Schicht und diese wiederum mit der Ausgabeschicht verbunden. Diese Interkonnektivität gewährleistet eine kontinuierliche Signalübertragung zwischen den Neuronen. Von diesen Schichten sind die verborgenen Schichten (es kann mehr als eine davon geben) die wichtigsten, da hier der sogenannte Faltungsprozess stattfindet, bei dem kleine Matrizen über die Eingabedaten bewegt werden, um bestimmte Merkmale zu extrahieren und zu abstrahieren.

Die Faltungsfunktionen und die hochgradig vernetzten Schichten heben unter anderem die Verarbeitung von Bildern und Videos auf eine neue Ebene. Wichtig sind sie insbesondere in der medizinischen Bildanalyse und der Verarbeitung natürlicher Sprache, denn diese Anwendungen erfordern eine fortgeschrittene Klassifizierung und Verarbeitung, oft in Echtzeit.

KI wird wahrscheinlich das Ende der Welt herbeiführen, aber bis dahin wird sie es Unternehmen erlauben, Großartiges zu leisten.

Sam Altman
Chairman, OpenAI

Use Cases

Die besondere Netzwerktopologie von SNN eröffnet zahlreiche Möglichkeiten für Robotik und maschinelles Sehen

SNN haben im Bereich Künstliche Intelligenz (KI) aufgrund ihrer speziellen Netzwerktopologie, die zahlreiche neue Möglichkeiten in Robotik und maschinellem Sehen (Computer Vision) eröffnet, für viel Aufsehen gesorgt. Der größte Vorteil von SNN ist die In-Memory-Verarbeitung mit neuromorpher Hardware.

Die Leistungsfähigkeit des menschlichen Gehirns beruht auf seiner Fähigkeit, Informationen innerhalb desselben Organs zu speichern und zu verarbeiten. Bei Maschinen führt der Von-Neumann-Flaschenhals zu Ineffizienz und Latenz, da Speicher und Verarbeitung getrennt sind: Wenn Daten empfangen werden, werden sie zuerst im Speicher abgelegt und dann von der Verarbeitungseinheit abgerufen. Das führt zu einer Verzögerung.

SNN eliminiert diesen zweistufigen Prozess durch In-Memory-Computing. Da die Informationen nicht vom Speicher zur Verarbeitungseinheit übertragen werden, ist die Latenz geringer. Außerdem sinkt der Energieverbrauch.

Hardware

SNN senken den Energieverbrauch

Die Funktionsweise eines SNN ist der des menschlichen Gehirns sehr ähnlich: Es verarbeitet Daten, die sich mit der Zeit ändern, und berücksichtigt dabei, wann etwas passiert ist und was außerdem wichtig ist. Dies führt zu einem geringeren Energieverbrauch, insbesondere wenn neuromorphe Hardware verwendet wird.

Neuromorphe Hardware verbessert die Leistung, da sie Neuronen simuliert. Dies ist wichtig, um die Gleichungen zu lösen, die das Verhalten der Neuronen beschreiben, die nur manchmal und kurz aktiv sind. Normale Hardware ist dafür nicht ausgelegt und daher weniger effizient. In einer Studie wurden SNN und ihre Klassifizierungsfähigkeiten auf die Probe gestellt. Demnach können die trainierten Neuronen auch dann Klassifizierungen vornehmen, wenn die Stimuli und die zugehörigen Entscheidungszeitpunkte voneinander getrennt sind. Dies wurde in verschiedenen Experimenten mit Statlog-Landsat- und Iris-Datensätzen gezeigt.

Fazit

SNN bedeutet einen Durchbruch für die Robotik-Industrie

SNN stellt zweifellos einen Durchbruch in der Robotik-Industrie dar. Anders als KI-Chips ahmen SNN menschliches Denken nach, um Daten aus der Wirklichkeit zu verstehen. Genau das braucht die Robotik, um Aufgaben zu erfüllen, die normalerweise von Menschen ausgeführt werden. Bisher lassen sich nur redundante Aufgaben automatisieren – mit SNN wird sich das sicher ändern.

Allerdings sind SNN nur die Basis für eine KI, die dem Gehirn nachempfunden ist. Sie bilden nicht alle Funktionen des Gehirns ab. Denn die Neuronen in den verschiedenen Schichten des menschlichen Gehirns richten sich je nach Situation selbst neu aus. Obwohl die Schichtung eines SNN seinen Neuronen eine gewisse Individualität verleiht, ist es weit davon entfernt, dem menschlichen Denken ähnlich zu werden.