Markov Chain Neural Networks
Ref-Nr: TA-16651
Kurzfassung
Die Erfindung beschreibt eine effiziente Methode wie man Neuronale Netze von einem deterministischen Verhalten zu einem nicht-deterministischen Verhalten modifiziert. Das nicht-deterministische Verhalten soll aber weiterhin für den Anwender trainierbar und beherrschbar bleiben.
Hintergrund
(Tiefe) Neuronale Netze sind Stand der Technik. Sie können beliebige Funktionen lernen, die zu einer gegebenen Eingabe eine entsprechende Ausgabe erzeugen. Man spricht dabei von deterministischen Funktionen, da zu jeder Eingabe eine gewünschte (eindeutige) Ausgabe festgelegt wird. Diese wird üblicherweise durch Trainingsdaten erzeugt.
Bilder & Videos
Problemstellung
Durch die festgelegten Ein- und Ausgänge sind deterministische Systeme berechenbar. Dies führt bspw. bei Computerspielen zu einem begrenzten und vorhersehbaren Handlungsspielraum.
Lösung
Nicht-deterministische Systeme sind Systeme, bei denen man für eine Eingabe, die Ausgabe nicht vorhersehen kann. Gegenüber z.B. "stochastic neural networks", wo die Ausgabe durch ein Verrauschen der Aktivierungsfunktion zufällig erzeugt wird oder Ansätzen, aus Eingabedaten eine Verteilungsfunktion abzuleiten um von dort ein Beispiel abzutasten, sieht der erfindungsgemäße Ansatz vor, im ersten Schritt eine Verteilungsfunktion möglicher Ausgaben offline aus den Trainingsdaten zu bestimmen. Mit einem zusätzlichen Eingabewert (Z), der zufällig gezogen und als Schalterneuron genutzt wird, wird in einem zweiten Schritt ein neuronales Netz trainiert, welches die Verteilungsfunktion der Eingabedaten respektiert und in der Testphase ein nicht-deterministisches Verhalten über das Schalterneuron erzeugen kann. In den Abbildungen 1 und 2 ist ein Ausführungsbeispiel eines künstlichen Neuronalen Netzes für einen konkreten Anwendungszweck dargestellt. So lassen sich z.B. Random Walker Modelle mit neuronalen Netzen abbilden, Chat Bots und automatisierte Text-Synthese umsetzen oder neuartige KIs für Spiele programmieren, welche nicht vorhersehbares Verhalten z.B. für ein Reinforcement Learning oder natürliche Mensch-Maschine-Interaktion erzeugen.
Vorteile
- Besseres Trainingsverhalten und bessere Generalisierung
- Es können Anwendungsfelder (stochastische Prozesse) adressiert werden, die bisher mit Neuronalen Netzen nicht simulierbar waren.
- Erzeugung nicht-deterministischer Aussagen
Anwendungsbereiche
Anwendungsgebiete sind u.a. Machine Learning, Deep Learning und Neuronale Netze. Neuronale Netze sind Kernbestandteil von Digitalisierung, Industrie 4.0 und Big Data Analysis.
Service
Lizenz zur gewerblichen Nutzung, Kooperation möglich, Verkauf
Anbieter

EZN Erfinderzentrum Norddeutschland GmbH
Luise aus der Fünten
0511 850 308 0
ausderfuenten@ezn.de
www.ezn.de
Adresse
Theaterstraße 2
30159 Hannover
Entwicklungsstand
Prototyp
Patentsituation
- DE 10 2017 126 846 A1 anhängig
Stichworte
artifical, Gottfried Wilhelm Leibniz Universität Hannover, künstlich, markov, network, Netzwerk, neural, neuronal, Pseudo-ZufallszahlAngebot Anbieter-Website