Einstieg
Eine Maschine sortiert Bilder
Die Maschine hat keine Augen. Woran erkennt sie einen senkrechten Strich?
Sie rechnet mit neun Zahlen. Jedes Feld hat ein Gewicht. Schwarz zählt 1, Weiß zählt 0. Die Maschine nimmt jedes Feld mal sein Gewicht und addiert alles. Ab 3 stempelt sie „Ja“.
Es gibt 512 verschiedene 3×3-Bilder. Gespeichert hat die Maschine keins davon, nur ihre neun Zahlen. Aber wie findet man die richtigen Zahlen? Und kann eine Maschine sie selbst finden?
Zum Vergleich: Ein frei herunterladbares Sprachmodell wie Llama 3.1 70B (Meta, 2024, „Open Weights“) hat rund 70 Milliarden Parameter, also gelernte Zahlen wie diese Gewichte.
Station 1 · Pixel & Gewichte
Neun Pixel. Neun Gewichte.
Schwarz zeichnet das Muster. Tippe links auf die Felder oder male mit dem Finger einen Strich. Weiße Felder sind nur Hintergrund. Rechts siehst du, wie wichtig jedes Feld für die Entscheidung ist.
Welche schwarzen Felder bilden den Strich?
Positive Gewichte sprechen dafür, negative Gewichte dagegen. Null bedeutet: dieses Feld ist egal.
Mit − und + änderst du ein Gewicht.
Fachlich: Wir modellieren hier ein einzelnes Perzeptron. Die neun Pixel sind die Eingaben x, die neun Zahlen die Gewichte w.
Station 2 · Entscheiden
Rechnen und entscheiden
Jedes Pixel wird mit seinem Gewicht multipliziert, danach wird alles addiert. Das Ergebnis heißt Score. So entscheidet ein künstliches Neuron. Rechnet zuerst selbst, dann „Berechnen“.
Ändern in Station 1
Fachlich schreiben wir: z = Σ(xᵢ · wᵢ) + b. Hier setzen wir den Bias zunächst auf 0. Eine Aktivierungsfunktion macht aus dem Score anschließend die Entscheidung. Die Schwelle θ entspricht einem Bias von b = −θ. „ד heißt hier: Feld für Feld multiplizieren und alles addieren, kein Matrizenprodukt.
Station 3 · Lernen
Jetzt lernt die Maschine selbst
Wir geben Beispiele vor. Bei einer falschen Entscheidung werden die Gewichte leicht verändert. Vermutet zuerst: Welche Felder bekommen große Gewichte? Dann Runde für Runde.
Trainingsbeispiele: Phase 1 (8)
Aktuelle gelernte Gewichte
Wir verwenden absichtlich die klassische Perzeptron-Lernregel: w ← w + η(y − ŷ)x und b ← b + η(y − ŷ), hier mit η = 0,2. Sie ist historisch passend und vollständig transparent. Angezeigt wird die gelernte Schwelle θ = −b.
Warum nie 100 %? Die drei senkrechten Striche bedecken zusammen jedes Feld genau einmal, die drei waagerechten auch. Bei beliebigen Gewichten und Bias haben beide Gruppen deshalb dieselbe Score-Summe. Alle drei Ja und zugleich alle drei Nein ist unmöglich. Allgemein zu den Grenzen einzelner Perzeptronen: Minsky/Papert 1969.
Station 4 · 3×3-Filter
Das 3×3-Fenster wandert über ein Bild
Jetzt wird aus dem kleinen Beispiel ein Filter: Derselbe 3×3-Filter wird über ein größeres Pixelbild geschoben. Schätzt den Score, bevor ihr das Fenster weiterschiebt.
Das blaue Fenster zeigt, welche neun Pixel gerade mit dem Filter verrechnet werden. Es ist dieselbe Rechnung wie in Station 2.
Position Zeile 1, Spalte 1: Score 0
Jede Fensterposition liefert eine Zahl. Zusammen ergeben die 25 Zahlen ein neues, kleineres Bild.
Kräftiges Blau heißt: hoher Score. Hier passt das Bild gut zum Filter. Die hohen Werte liegen genau dort, wo der senkrechte Strich ist.
Position Zeile 1, Spalte 1: Score 0
Das ist die Grundidee einer Faltung (Convolution). Moderne CNNs lernen solche Filter selbst und stapeln viele davon in mehreren Schichten. Genau genommen rechnen sie eine Kreuzkorrelation; in der KI heißt sie trotzdem Faltung.
Station 5 · Skalieren
Dasselbe Prinzip – nur sehr viel größer
Der einzelne Rechenschritt bleibt überschaubar. Leistungsfähig wird moderne KI durch sehr viele gelernte Gewichte, viele Schichten und sehr viele Trainingsbeispiele.
Was gleich bleibt
Auch große KI-Systeme rechnen vor allem mit Multiplikationen, Summen und Schwellen. Sprachmodelle wie ChatGPT sind aber viel komplizierter gebaut als unsere 3×3-Matrix.
Was bei ChatGPT anders ist
Sprachmodelle verwenden Transformer. Sie rechnen mit großen Vektoren und Matrizen, Attention und vielen Schichten. Die 3×3-Matrix ist deshalb kein Modell von ChatGPT, sondern ein verständlicher Einstieg in dieselbe Welt gewichteter Zahlenoperationen.