Einstieg
Riesige Textmengen gelesen – und verrechnet?
Ein Chatbot Ende 2022 · Antwort nachgestellt
Ein Taschenrechner für 5 Euro zeigt: 29.806.758
Warum liegt das Modell daneben, obwohl es unvorstellbar viel Text gelesen hat?
Kein Taschenrechner. Das Modell schreibt Token für Token eine wahrscheinliche Fortsetzung. Diese Aufgabe stand vermutlich nie im Trainingstext. Die Zahl sieht richtig aus und stimmt trotzdem nicht.
Was hilft: ein größeres Modell, ein Taschenrechner oder Zwischenschritte wie beim schriftlichen Rechnen?
Station 1 · 2020 · Skalieren
Größer wird besser – nach einem Gesetz
Auftrag: Jeder Punkt ist ein Training mit 10-mal mehr Rechenaufwand. Vermutet: Wo landet der nächste Punkt? Tippt ins Schaubild.
Mehr Rechenaufwand heißt: größeres Modell und mehr Text. Gemessen wird der Verlust: wie stark das Modell beim nächsten Token danebenliegt.
Genau auf der Verlängerung. Auf diesen Achsen liegen die Punkte auf einer Geraden. Ein Team von OpenAI zeigte 2020: Aus kleinen Trainings lässt sich vorhersagen, wie gut ein größeres wird. Das heißt Skalierungsgesetz (englisch: Scaling Law).
Ein Grund für immer größere Rechenzentren. Der Haken: Jedes gleich große Stück nach unten kostet 10-mal so viel.
Bei festem Budget: lieber ein größeres Modell oder mehr Text?
Station 2 · 2022 · Chinchilla
Größeres Modell oder mehr Text?
✎ Zettel und Stift · jede und jeder für sich5 Minuten
a) Wie viele Token Text kamen bei jedem Modell auf einen Parameter?
b) Das Geld für Rechenzeit ist fest. Was macht ihr beim nächsten Modell anders?
Für Schnelle: Llama 3 (Meta, 2024, kleinere Fassung): 8 Mrd. Parameter, über 15.000 Mrd. Token. Wie viele Token pro Parameter? Warum trainiert man ein kleines Modell so lange?
a) Gopher: 300 : 280 ≈ 1 Token pro Parameter. Chinchilla: 1.400 : 70 = 20 Token pro Parameter.
b) Modellgröße und Textmenge gemeinsam wachsen lassen, Faustregel: etwa 20 Token pro Parameter. Gopher war für seine Größe zu kurz trainiert.
Für Schnelle: über 15.000 : 8 = 1.875. Kleine Modelle antworten schneller und billiger, langes Training macht sie trotzdem besser.
Steckbrief
| Modell | Parameter | Text |
|---|---|---|
| Gopher 2021 | 280 Mrd. | 300 Mrd. |
| Chinchilla 2022 | 70 Mrd. | 1.400 Mrd. |
Beide Modelle stammen von DeepMind (Google). Der Rechenaufwand beim Training war etwa gleich. Chinchilla schnitt in fast allen Tests besser ab.
Parameter = Gewichte aus Teil 1. Text in Token.
Station 3 · 2023 · Werkzeuge
Das Modell gibt den Auftrag, ein Programm rechnet
Auftrag: Geht Schritt für Schritt durch. Achtet darauf: Wer rechnet hier wirklich?
Woher weiß das Modell, an welcher Stelle es den Rechner aufrufen soll?
Der Werkzeug-Aufruf ist auch nur Text, den das Modell als Fortsetzung schreibt. Ein Programm führt ihn aus und hängt das Ergebnis an.
Welche Werkzeuge es gibt (Rechner, Websuche, Kalender …), steht in der Anweisung an das Modell.
Station 4 · 2023/24 · Bilder und Ton
Wie kommt ein Foto in ein Sprachmodell?
Auftrag: Vermutet zuerst rechts. Zerlegt dann das Bild und tippt auf eine Kachel.
Das Bild hat 16 × 12 Pixel. Jedes Pixel besteht aus drei Zahlen: Rot, Grün, Blau.
Das Modell kennt nur Token. Wie kommt das Bild hinein?
Jede Kachel wird zu einer Zahlenliste in derselben Form wie ein Wort auf der Wortkarte. Danach verarbeitet der Transformer Kacheln und Wörter gemeinsam.
Echte Modelle nehmen Kacheln von etwa 14 × 14 oder 16 × 16 Pixeln. Ton wird ähnlich in kurze Stücke zerlegt.
Station 5 · 2024 · Reasoning
Erst Zwischenschritte, dann die Antwort
Auftrag: Deckt die Zwischenschritte auf. Vergleicht dann mit der schnellen Antwort.
Sofort antworten · nachgestellt
4.738 × 6.291 = 29.816.358 ✗ falsch
Erst Zwischenschritte schreiben · Reasoning-Modell, nachgestellt
- 6.291 = 6.000 + 200 + 90 + 1
- 4.738 × 6.000 = 28.428.000
- 4.738 × 200 = 947.600
- 4.738 × 90 = 426.420
- 4.738 × 1 = 4.738
- Summe: 29.806.758
- Antwort: 29.806.758 ✓ richtig
Warum hilft es dem Modell, Zwischenschritte aufzuschreiben?
Jedes Zwischenergebnis steht danach im Text. Attention schaut darauf zurück wie ihr auf euren Zettel.
Reasoning-Modelle (ab 2024) schreiben solche Schritte von sich aus. „Das Modell denkt nach“ heißt genauer: Es schreibt Text und verwendet ihn selbst weiter.
Station 6 · Selbst ausprobieren
Schnell geantwortet oder nachgerechnet?
✎ Zettel und Stift · jede und jeder für sich4 Minuten
Ein Heft und ein Stift kosten zusammen 1,10 €. Das Heft kostet 1,00 € mehr als der Stift. Was kostet der Stift?
- Schreibt sofort die erste Zahl auf, die euch einfällt.
- Rechnet dann mit Zwischenschritten nach und macht die Probe.
- Stimmt eure erste Zahl?
Für Schnelle: Auf einem Teich im Moor verdoppelt sich die Fläche der Wasserlinsen jeden Tag. Nach 30 Tagen ist der Teich ganz bedeckt. Nach wie vielen Tagen war er zur Hälfte bedeckt?
Die schnelle Antwort 10 Cent ist falsch: Dann kostete das Heft 1,10 € und beides zusammen 1,20 €.
Mit Zwischenschritten: Stift = x, Heft = x + 1,00 €. Zusammen 2x + 1,00 € = 1,10 €, also 2x = 0,10 € und x = 0,05 €. Probe: 0,05 € + 1,05 € = 1,10 € ✓
Für Schnelle: nach 29 Tagen. Am letzten Tag verdoppelt sich die Fläche von halb auf ganz.
Die erste Zahl, die einem einfällt, ist wie das wahrscheinlichste nächste Token. Ältere Sprachmodelle wie GPT-3 fielen auf solche Aufgaben oft herein, neuere wie GPT-4 meist nicht mehr.
Station 7 · 2024/25 · Lernen mit Belohnung
Wie lernt ein Modell gute Zwischenschritte?
Auftrag: Das Modell hat dieselbe Aufgabe viermal gelöst. Vermutet: Welche Versuche bekommen eine Belohnung? Dann startet das Prüfprogramm.
Aufgabe aus dem Training: 17 × 24 = ?
17 × 4 = 68
340 + 68 = 408–
7 × 24 = 168
240 + 168 = 408–
17 × 25 = 425
Ergebnis: 425–
17 × 4 = 68
zusammen 408–
Danach werden die Gewichte so nachgestellt, dass belohnte Lösungswege wahrscheinlicher werden. Das wiederholt sich mit sehr vielen Aufgaben. Das Prüfprogramm zeigt keinen Rechenweg, es meldet nur richtig oder falsch.
Bei welcher Aufgabe kann man so trainieren?
Ein Programm prüft nur, was eindeutig richtig oder falsch ist: Rechnen, Code mit Tests, Rätsel. Fachbegriff: RLVR, Lernen mit überprüfbarer Belohnung. Gedichte bewerten weiter Menschen (RLHF, Teil 1).
Versuch 4: falscher Weg (34 statt 340), richtiges Ergebnis. Er wird trotzdem belohnt.
Station 8 · 2024/25 · Agenten
Ein Agent arbeitet in Runden
✋ Ausprobieren · im Raum10 Minuten
- Material
- Ein Gegenstand, z. B. eine Federmappe. An der Tafel diese Befehle: GEH ZU … · SCHAU NACH … · NIMM … · LEG AB … · FERTIG
- Rollen
- Die Lehrkraft ist das Modell: Sie sitzt mit dem Rücken zum Raum und sieht nichts. Eine Freiwillige oder ein Freiwilliger ist das Werkzeug. Die Klasse führt eine Strichliste.
- Die Klasse stellt eine Aufgabe, z. B. „Lege die Federmappe von Tisch 3 auf das Pult.“ Vermutet: Wie viele Runden braucht das Modell?
- Pro Runde gibt das Modell genau einen Befehl. Das Werkzeug führt ihn wörtlich aus und sagt in einem Satz, was es sieht. Auf unbekannte Befehle antwortet es: „Fehler: unbekannter Befehl“.
- Zählt die Runden bis FERTIG.
Auswertung: Wer hat die Federmappe bewegt, das Modell oder das Werkzeug? Und warum brauchte es mehrere Runden?
Das Modell hat nur Befehle gesprochen, also Text. Bewegt hat das Werkzeug. So arbeiten KI-Agenten:
Befehl → ausführen → Ergebnis zurück → nächster Befehl … → FERTIG
Das Modell sieht nur, was ihm zurückgemeldet wird. Darum braucht es mehrere Runden. Ein Programm führt die Befehle aus: klicken, Datei speichern, E-Mail senden. Wichtig ist deshalb, welche Werkzeuge ein Agent bekommt und was er nur nach Rückfrage darf.
Rückblick
Derselbe Kern, viel Neues drumherum
Auftrag: Erklärt euch zu zweit abwechselnd je einen Kasten in einem Satz.
Welche Kästen lösen die Rechenaufgabe vom Anfang?
Werkzeuge: Der Rechner rechnet richtig, wenn das Modell die Zahlen richtig übergibt.
Zwischenschritte: meistens richtig, aber nicht garantiert.
Nur größer: wird besser, aber nicht zuverlässig.
Geblieben ist der Kern aus Teil 1: Ein Transformer sagt das nächste Token voraus.
Teil 1: Vom Perzeptron zum Chatbot
Abschluss
Check
Auftrag: Entscheidet euch zuerst, dann auflösen.
Ein KI-Agent hat eine E-Mail verschickt. Wer hat sie technisch versendet?
Das Modell schreibt nur Text. Ein Programm führt den Befehl aus. Darum legt man fest, welche Werkzeuge ein Agent benutzen darf.
Was ist bei einem Reasoning-Modell anders als beim Chatbot von 2022?
Der Bauplan ist weiter ein Transformer. Neu ist das Training mit Belohnung, das lange Zwischenschritte hervorbringt. Fehler bleiben möglich.