Skip to main content

Markov Chain Neural Networks


Kurzfassung

Die Erfindung beschreibt eine effiziente Methode wie man Neuronale Netze von einem deterministischen Verhalten zu einem nicht-deterministischen Verhalten modifiziert. Das nicht-deterministische Verhalten soll aber weiterhin für den Anwender trainierbar und beherrschbar bleiben.


Hintergrund

(Tiefe) Neuronale Netze sind Stand der Technik. Sie können beliebige Funktionen lernen, die zu einer gegebenen Eingabe eine entsprechende Ausgabe erzeugen. Man spricht dabei von deterministischen Funktionen, da zu jeder Eingabe eine gewünschte (eindeutige) Ausgabe festgelegt wird. Diese wird üblicherweise durch Trainingsdaten erzeugt.


Bilder & Videos


Problemstellung

Durch die festgelegten Ein- und Ausgänge sind deterministische Systeme berechenbar. Dies führt bspw. bei Computerspielen zu einem begrenzten und vorhersehbaren Handlungsspielraum.


Lösung

Nicht-deterministische Systeme sind Systeme, bei denen man für eine Eingabe, die Ausgabe nicht vorhersehen kann. Gegenüber z.B. "stochastic neural networks", wo die Ausgabe durch ein Verrauschen der Aktivierungsfunktion zufällig erzeugt wird oder Ansätzen, aus Eingabedaten eine Verteilungsfunktion abzuleiten um von dort ein Beispiel abzutasten, sieht der erfindungsgemäße Ansatz vor, im ersten Schritt eine Verteilungsfunktion möglicher Ausgaben offline aus den Trainingsdaten zu bestimmen. Mit einem zusätzlichen Eingabewert (Z), der zufällig gezogen und als Schalterneuron genutzt wird, wird in einem zweiten Schritt ein neuronales Netz trainiert, welches die Verteilungsfunktion der Eingabedaten respektiert und in der Testphase ein nicht-deterministisches Verhalten über das Schalterneuron erzeugen kann. In den Abbildungen 1 und 2 ist ein Ausführungsbeispiel eines künstlichen Neuronalen Netzes für einen konkreten Anwendungszweck dargestellt. So lassen sich z.B. Random Walker Modelle mit neuronalen Netzen abbilden, Chat Bots und automatisierte Text-Synthese umsetzen oder neuartige KIs für Spiele programmieren, welche nicht vorhersehbares Verhalten z.B. für ein Reinforcement Learning oder natürliche Mensch-Maschine-Interaktion erzeugen.


Vorteile

  • Besseres Trainingsverhalten und bessere Generalisierung
  • Es können Anwendungsfelder (stochastische Prozesse) adressiert werden, die bisher mit Neuronalen Netzen nicht simulierbar waren.
  • Erzeugung nicht-deterministischer Aussagen


Anwendungsbereiche

Anwendungsgebiete sind u.a. Machine Learning, Deep Learning und Neuronale Netze. Neuronale Netze sind Kernbestandteil von Digitalisierung, Industrie 4.0 und Big Data Analysis.


Service

Lizenz zur gewerblichen Nutzung, Kooperation möglich, Verkauf


EZN Erfinderzentrum Norddeutschland GmbH

Dipl.-Ing. Andreas Deutsch
+49 (0) 511 850 308-
deutsch@ezn.de
www.ezn.de
Adresse
Theaterstraße 2
30159 Hannover



Entwicklungsstand

Prototyp


Patentsituation

  • DE anhängig

Stichworte

artifical, Gottfried Wilhelm Leibniz Universität Hannover, künstlich, markov, network, Netzwerk, neural, neuronal, Pseudo-Zufallszahl

Angebot Anbieter-Website


Kontakt | Geschäftsstelle

TechnologieAllianz e. V.
Christiane Bach-Kaienburg
(Geschäftsstellenleiterin)

c/o PROvendis GmbH
Schloßstr. 11-15
D-45468 Mülheim an der Ruhr