| Typ | Synthese |
|---|---|
| Quellen | Quelle - Neuronale Netze programmieren mit Python Quelle - Neuronale Netze selbst programmieren Quelle - Bildverarbeitung Zusammenfassung Quelle - Recherche - Bildverarbeitung heute 2026 |
| Erstellt | 2026-09-27 |
| Aktualisiert | 2026-09-27 |
| Tags | neuronale-netze, künstliche-intelligenz, geschichte |
Zeitleiste der künstlichen neuronalen Netze von 1943 bis 2017: vom logischen Neuron über das Perzeptron, den KI-Winter und die Wiederentdeckung der Backpropagation bis zu Faltungsnetzen und Transformern. Sie zeigt, wie sich der konnektionistische Strang gegen die symbolische KI durchsetzte, vor allem dank Rechenleistung und Daten.
Zwei Strömungen
Die KI beginnt offiziell 1956 mit dem Dartmouth-Workshop von John McCarthy, Marvin Minsky, Claude Shannon und Nathaniel Rochester. Der Begriff „Artificial Intelligence“ stammt aus deren Antrag von 1955 (Quelle - Neuronale Netze programmieren mit Python, S. 39–40, 286). Von Anfang an gab es zwei Wege:
- Symbolische KI: Wissen steht explizit in Regeln und Logik („wenn Länge ≥ 20 mm, dann Königin“). Entscheidungen sind nachvollziehbar.
- Subsymbolische, konnektionistische KI: Wissen steckt implizit in den Gewichten eines Netzes. Schwer zu erklären, aber leistungsfähig.
„Die Geschichte hat sich (derzeit) zugunsten der subsymbolischen Systeme entwickelt“ (S. 40). Damit ist die bisher unbelegte Grundannahme von Wissensrepräsentation damals und heute belegt.
Zeitleiste
| Jahr | Ereignis | Bedeutung |
|---|---|---|
| 1906/1911 | Ramón y Cajal zeichnet Nervenzellen (Nobelpreis 1906 mit Golgi), weist Synapsen nach | biologische Grundlage (S. 279, 284) |
| 1943 | McCulloch und Pitts: logisches Neuron mit binären Signalen und Schwelle | Neuronen verhalten sich wie Aussagen der Logik, Beginn der Kybernetik (S. 284–286) |
| 1949 | Donald Hebb: „What fires together, wires together“ | älteste Lernregel, synaptische Plastizität (S. 285–286) |
| 1951 | Minsky und Edmonds: SNARC aus Röhren, simuliert eine Ratte im Labyrinth | erstes Netz in Hardware (S. 286) |
| 1956 | Dartmouth-Workshop | Geburt der KI als Fach |
| 1957/58 | Rosenblatt: Perzeptron (400 Fotozellen, 8 Ausgänge) | erstes lernfähiges Netz (S. 84, 287) |
| 1959 | Arthur Samuel prägt „Machine Learning“; Hubel und Wiesel untersuchen den visuellen Cortex | (S. 41, 200) |
| 1960 | Widrow und Hoff: Adaline, Madaline, Delta-Regel | Lernen durch Minimierung des quadratischen Fehlers (S. 287–288) |
| 1969 | Minsky und Papert: „Perceptrons“ zeigt, dass ein Perzeptron XOR nicht kann | Forschungsgelder brechen weg, KI-Winter für etwa 15 Jahre (S. 288) |
| 1972 | Kohonen: Correlation Matrix Memories | Assoziativspeicher (S. 288) |
| 1973 | Lighthill-Report: kombinatorische Explosion | Grossbritannien streicht fast alle KI-Förderung (S. 288–289) |
| 1974 | Paul Werbos beschreibt Backpropagation für Netze in seiner Dissertation | bleibt zunächst unbeachtet (S. 289) |
| 1980 | Fukushima: Neocognitron mit S- und C-Zellen | Vorläufer des CNN (S. 289–291) |
| 1982 | Hopfield-Netz; Kohonens selbstorganisierende Karte; Japan startet die „fünfte Computergeneration“ | Ende des KI-Winters (S. 291–301) |
| 1986 | Rumelhart, Hinton, Williams: „Learning representations by back-propagating errors“ | Backpropagation wird zum Standard (S. 302) |
| 1987 | erste IEEE-Konferenz zu neuronalen Netzen in San Diego (2000 Besucher) | (S. 302) |
| 1989 | LeCun: Faltungsnetz (Tech Report), Cybenko: universeller Approximator | Faltungsnetz; ein verstecktes Netz kann jede Funktion annähern (S. 302, 481) |
| 1997 | Hochreiter und Schmidhuber: LSTM | rekurrente Netze mit langem Gedächtnis (S. 303) |
| 1998 | LeCun: LeNet-5 auf MNIST | CNN für Handschrift (S. 201, 233) |
| 2006 | Hinton, Osindero, Teh: Deep Belief Nets | tiefe Netze werden trainierbar (S. 304) |
| 2011 | NVIDIA und Andrew Ng: GPUs statt CPUs | Hardware-Hürde fällt (S. 44) |
| 2012 | AlexNet gewinnt ImageNet | Beginn der Deep-Learning-Ära (S. 250) |
| 2014 | Goodfellow: GAN; Kingma und Ba: Adam | Generator gegen Diskriminator (S. 304–306) |
| 2016/17 | AlphaGo schlägt Lee Sedol; AlphaZero lernt Schach, Go, Shogi | Verstärkendes Lernen (S. 304) |
| 2017 | Vaswani et al.: „Attention Is All You Need“ | Transformer, Grundlage der Sprachmodelle (S. 306–307) |
| 2018/2020 | BERT, GPT-3 | (Zeitleiste S. 302) |
Einzelne Modelle
- McCulloch-Pitts-Neuron: nur 0 und 1. Ist ein hemmender Eingang aktiv, ist die Ausgabe 0, sonst 1, wenn die Summe der erregenden Eingänge die Schwelle erreicht (S. 284–285).
- Hopfield-Netz: eine einzige Schicht, jedes Neuron mit jedem verbunden (nicht mit sich selbst), symmetrische Gewichte, Ausgänge +1/−1. Es speichert Muster als Assoziativspeicher und stellt aus verrauschten Eingaben das nächstgelegene gelernte Muster wieder her. Kapazität etwa 0,14 · n Muster bei n Neuronen. Das Buch speichert ein „T“ und ein „U“ auf 3 × 3 Pixeln (S. 291–301).
- GAN: Ein Generator erzeugt aus Zufallszahlen Bilder, ein Diskriminator unterscheidet echte von erzeugten. Beide werden abwechselnd trainiert, bis der Diskriminator nur noch raten kann (50 %) (S. 304–306).
- LSTM: Eine Zelle mit Eingangs-, Vergessens- und Ausgangstor hält Informationen über viele Zeitschritte und umgeht verschwindende Gradienten (S. 303).
Die Quellen datieren einzelne Ereignisse unterschiedlich. Perzeptron: 1957 (S. 84), 1958 (S. 287), Konvergenztheorem 1959 (S. 481). Backpropagation: „1985 wiederentdeckt“ (S. 175) und 1986 (S. 302); der Technische Bericht von Rumelhart, Hinton und Williams erschien 1985, der Nature-Artikel 1986. CNN: „Urform 1998“ (S. 201) und 1989 (S. 302); 1989 ist der erste Bericht, 1998 LeNet-5. Quelle - Neuronale Netze selbst programmieren spricht vage von „1960er- bis 1970er-Jahren“ für die Backpropagation.
Die Muster der Geschichte: Mehrere Ideen wurden früh gefunden und erst Jahrzehnte später wirksam (Backpropagation 1974 → 1986, CNN 1980/1989 → 2012). Den Ausschlag gaben nicht neue Theorien, sondern Rechenleistung (GPUs) und Daten (MNIST, ImageNet). Das Buch sagt es knapp: „Uns fehlten die Rechenleistung und die Daten“ (S. 44).
Hype und Winter: Zweimal folgte auf übertriebene Versprechen ein Einbruch der Förderung (nach 1969 und nach dem Lighthill-Report). Das Buch erwähnt, dass die KI seit Dartmouth „durch teils übertriebene Ankündigungen und Hoffnungen geprägt“ ist (S. 39).
Der persönliche Bezug: Als der Nutzer 2004 die Bildverarbeitung lernte, lag die Zeitleiste zwischen Deep Belief Nets und AlexNet. Neuronale Netze waren damals „ein Klassifikator unter vielen“ (Mustererkennung). Acht Jahre später hatten sie die Bildverarbeitung übernommen, gut zehn Jahre danach führen Transformer wie Claude dieses Wiki.
Verwandt
- Wissensrepräsentation damals und heute – symbolische gegen konnektionistische Wissensdarstellung
- Künstliches neuronales Netz – Aufbau und biologisches Vorbild
- Perzeptron – der Anfang und der KI-Winter
- Backpropagation – die Wiederentdeckung von 1986
- Faltungsnetz – vom Neocognitron zu AlexNet
- Transformer – der jüngste Wendepunkt
- Maschinelles Lernen – Hopfield und SOM als unüberwachte Verfahren
- Mustererkennung – der Stand von 2004
- Heuristiken in BWL und Informatik – kombinatorische Explosion als Grund für Heuristiken