Neurale Netze

1 Die Mystik Neuraler Netze.- 1.1 Wissenschaften und Modeströmungen.- 1.2 Ein "Neurales Netz".- 1.3 Neurale Rechner - Neural Computing.- 1.4 Erwartungen an Neurale Netze.- 1.5 Einsatz Neuraler Netze.- 1.6 Beispiele.- 1.7 Charakterisierung Neuraler Netze.- 1.8 Praktische Anwendungen für Neurale Netze.- 1.8.1 Greifen nach einem Objekt, ohne das Gleichgewicht zu verlieren.- 1.8.2 Wahrnehmung von Mustern und deren Vervollständigung.- 1.8.3 Inhaltsadressierter Speicherzugriff.- 2 Aus den Anfängen Neuraler Netze.- 2.1 Im Anfang war die Kybernetik.- 2.1.1 Frühe Automaten - künstliche "Wesen".- 2.1.2 Biologie - Neurone.- 2.1.3 Psychologie - Konditionierung.- 2.1.4 Mathematik - Berechenbarkeit.- 2.1.5 Weitere grundlegende Ideen.- 2.2 Seit McCulloch & Pitts, 1943.- 2.3 Frühe Lernsysteme.- 2.3.1 Perceptrons.- 2.3.2 Adaline (Adaptive Linear Element).- 2.3.3 Lernmatrix.- 3 Neurophysiologische Grundlagen.- 3.1 Aufbau und Funktionsweise von Neuronen.- 3.1.1 Die Grundbausteine: Neurone, Synapsen - Kommunikation.- 3.1.2 Physiologie kleiner Neuronenverbände, Reflexe.- 3.2 Das visuelle System.- 3.2.1 Der Aufbau des Auges.- 3.2.2 Rezeptive Felder.- 3.2.3 Die Sehbahn.- 3.2.4 Die Signalverarbeitung.- 3.2.5 Grundlagen der Gestaltwahrnehmung.- 4 Künstliche Neurone.- 4.1 Was von der Biologie bleibt.- 4.2 McCulloch&Pitts-Neurone.- 4.3 Aufbau Neuraler Netze.- 4.3.1 Units.- 4.3.2 Aktivierung einer Unit.- 4.3.3 Outputfunktion.- 4.3.4 Ausbreitungsregel.- 4.3.5 Aktivierungsfunktion.- 4.4 Unit-Typen.- 4.4.1 Einfache lineare Units.- 4.4.2 Lineare Schwellwert-Units.- 4.4.3 Brain State in a Box (BSB).- 4.4.4 Thermodynamische Units.- 4.4.5 Grossberg-Units.- 4.4.6 Interactive Activation Units (IAC).- 4.4.7 Feldmann & Ballard-Units.- 4.4.8 Sigma-Pi-Units.- 4.4.9 Sigmoide Units.- 4.4.10 Übersichtstabelle über Unit-Typen.- 4.5 Repräsentationsformen und Kodierungen.- 4.5.1 Lokale und verteilte Repräsentation.- 4.5.2 Kodierung.- 4.6 Hierarchie und Synchronität.- 4.7 Lernen in Neuralen Netzen.- 5 Lernen in Neuralen Netzen.- 5.1 Übersicht über die wichtigsten Lernansätze.- 5.2 Hebb-Regel.- 5.3 Delta-Regel.- 5.4 Back Propagation.- 5.4.1 Das Prinzip.- 5.4.2 Die Aufteilung des Fehlers auf Hidden-Units.- 5.4.3 Beispiel zur Berechnung eines Fehlersignals.- 5.4.4 Die verwendete Output-Funktion.- 5.4.5 Anwendungsbeispiele der Back Propagation.- 5.4.6 Wahl der Lernrate k.- 5.4.7 Gewichtsinitialisierungen.- 5.4.8 Momentum-Term.- 5.4.9 Variationen zur Rechenzeitverkiirzung.- 5.5 Competitive Learning.- 5.5.1 Der Competitive Learning-Mechanismus.- 5.5.2 Eine geometrische Interpretation.- 5.5.3 Eigenschaften des Competitive Learning.- 5.6 Boltzmann-Maschinen.- 5.6.1 Prinzipielle Funktionsweise der Boltzmann-Maschine.- 5.6.2 Minimierung der Energie- oder Kostenfunktion.- 5.6.3 Störungen zur Überwindung lokaler Minima.- 5.6.4 Lernalgorithmus der Boltzmann-Maschine.- 5.7 Lernen durch Verstärkung und Belohnung.- 5.7.1 Grundlegende Version des Verstärkungslernens.- 5.7.2 Lernen mit verzögerter Verstärkung.- 5.7.3 Lernen durch Belohnung.- 5.8 Genetische Algorithmen.- 5.8.1 Grundlegende Version des genetischen Lernens.- 5.8.2 Genetisches Lernen und die Belohnungsregel.- 5.9 Topologie-erhaltende Abbildungen und Lernende Vektorquantifizierung (LVQ).- 5.9.1 Ordnungserhalt.- 5.9.2 Lokale Antworten aufgrund lateraler Interaktion.- 5.9.3 Topologie-erhaltende Abbildungen.- 5.9.4 Der Algorithmus in diskreten Zeitschritten.- 5.9.5 Beispiele einfacher Abbildungen.- 5.9.6 Anordnung der Gewichtsvektoren.- 5.9.7 LVQ - Lernende Vektor-Quantifizierung.- 6 Modelle.- 6.1 NETtalk (Sejnowski & Rosenberg, 1986).- 6.1.1 Aufbau von NETtalk.- 6.1.2 Repräsentation der Buchstaben und Phoneme.- 6.1.3 Lernalgorithmus.- 6.1.4 Ergebnisse.- 6.2 Hopfield-Netze.- 6.2.1 Grundmodell.- 6.2.2 Analoge Implementierung.- 6.2.3 Anwendungsgebiete für Hopfield-Netze.- 6.3 Fukushimas Neocognitron.- 6.3.1 Biologische Inspiration.- 6.3.2 Struktur des Netzes.- 6.3.3 Lernen im Neocognitron: Selbstorganisation.-... Mehr