[Stanford CS329A #1] Kursübersicht: Von großen Sprachmodellen zu selbstverbessernden KI-Agenten
Willkommen zur detaillierten technischen Aufschlüsselung des Kurses CS329A der Stanford University: Self-Improving AI Agents (Selbstverbessernde KI-Agenten, Herbst 2025).
In den vergangenen vier Jahren wurde die Landschaft der künstlichen Intelligenz von einem einzigen Dogma beherrscht: Das Vortraining größerer Modelle auf immer gigantischeren Textkorpora führt zu kontinuierlich wachsenden kognitiven Fähigkeiten. Während dieses Paradigma die moderne generative KI-Revolution entfachte – und Modelle wie GPT-4, Claude 3.5 und Gemini hervorbrachte –, hat die vorderste Front der Machine-Learning-Forschung einen entscheidenden Wendepunkt erreicht.
Statische Basismodelle (Static Foundation Models) weisen, ungeachtet astronomischer Parameterzahlen, fundamentale Grenzen auf: Sie sind passive, autoregressive Prädiktoren des nächsten Tokens, die in einem rückkopplungslosen Regime (Open-loop) agieren. Sobald ihre Gewichte nach dem Training eingefroren (frozen) sind, können sie schwierigen Problemen nicht dynamisch mehr Rechenleistung zuweisen, die sachliche Richtigkeit ihrer eigenen Ableitungen nicht autonom verifizieren und Fehler nicht auf Basis von Umgebungsrückmeldungen iterativ korrigieren.
flowchart LR
subgraph Statisches_Paradigma ["Statisches Paradigma (2020-2024)"]
direction TB
A1[Massiver Webkorpus] --> B1[Großskalierter Pre-Training-Cluster]
B1 --> C1[Überwachtes Feintuning SFT]
C1 --> D1[Eingefrorenes Statisches Modell]
D1 -->|Einzelner Vorwärtsdurchlauf| E1[Einmalige Textantwort]
end
subgraph Autonomes_Paradigma ["Stanford CS329A: Selbstverbessernde Agenten"]
direction TB
A2[Komplexes Aufgabenziel] ==> B2[Schlussfolgerungs- und Planungs-Engine]
B2 -->|Aktionen / Code-Entwürfe| C2[Sandbox-Umgebung und Werkzeuge]
C2 -->|Ausführungsspuren und Status| D2[Prozess-Verifizierer PRM]
D2 -->|Belohnungs- und Fehlersignale| B2
D2 ==>|Inferenz- und Trainings-Updates| E2[Kontinuierliche Selbstevolution]
end
Stanford CS329A widmet sich der Kernfrage des kommenden KI-Jahrzehnts: Wie konstruieren wir Software-Agenten, die nicht bloß Text generieren, sondern ihr eigenes Denken und ihren Code kontinuierlich überprüfen, verifizieren, planen und eigenständig verbessern?
In dieser Einführungsvorlesung analysieren wir die evolutionäre Flugbahn von Basis-LLMs zu Agentensystemen, formalisieren die Mathematik der Skalierungsgesetze und der Inferenzzeit-Rechenallokation, untersuchen die vier kanonischen Agenten-Workflow-Muster und isolieren den kritischen Flaschenhals autonomer Intelligenz: die Generator-Verifizierer-Lücke (Generator-Verifier Gap).
