Ein Post getaggt mit "foundation-models"

Willkommen zur detaillierten technischen Aufschlüsselung des Kurses CS329A der Stanford University: Self-Improving AI Agents (Selbstverbessernde KI-Agenten, Herbst 2025).

In den vergangenen vier Jahren wurde die Landschaft der künstlichen Intelligenz von einem einzigen Dogma beherrscht: Das Vortraining größerer Modelle auf immer gigantischeren Textkorpora führt zu kontinuierlich wachsenden kognitiven Fähigkeiten. Während dieses Paradigma die moderne generative KI-Revolution entfachte – und Modelle wie GPT-4, Claude 3.5 und Gemini hervorbrachte –, hat die vorderste Front der Machine-Learning-Forschung einen entscheidenden Wendepunkt erreicht.

Statische Basismodelle (Static Foundation Models) weisen, ungeachtet astronomischer Parameterzahlen, fundamentale Grenzen auf: Sie sind passive, autoregressive Prädiktoren des nächsten Tokens, die in einem rückkopplungslosen Regime (Open-loop) agieren. Sobald ihre Gewichte nach dem Training eingefroren (frozen) sind, können sie schwierigen Problemen nicht dynamisch mehr Rechenleistung zuweisen, die sachliche Richtigkeit ihrer eigenen Ableitungen nicht autonom verifizieren und Fehler nicht auf Basis von Umgebungsrückmeldungen iterativ korrigieren.

flowchart LR
    subgraph Statisches_Paradigma ["Statisches Paradigma (2020-2024)"]
        direction TB
        A1[Massiver Webkorpus] --> B1[Großskalierter Pre-Training-Cluster]
        B1 --> C1[Überwachtes Feintuning SFT]
        C1 --> D1[Eingefrorenes Statisches Modell]
        D1 -->|Einzelner Vorwärtsdurchlauf| E1[Einmalige Textantwort]
    end

    subgraph Autonomes_Paradigma ["Stanford CS329A: Selbstverbessernde Agenten"]
        direction TB
        A2[Komplexes Aufgabenziel] ==> B2[Schlussfolgerungs- und Planungs-Engine]
        B2 -->|Aktionen / Code-Entwürfe| C2[Sandbox-Umgebung und Werkzeuge]
        C2 -->|Ausführungsspuren und Status| D2[Prozess-Verifizierer PRM]
        D2 -->|Belohnungs- und Fehlersignale| B2
        D2 ==>|Inferenz- und Trainings-Updates| E2[Kontinuierliche Selbstevolution]
    end

Stanford CS329A widmet sich der Kernfrage des kommenden KI-Jahrzehnts: Wie konstruieren wir Software-Agenten, die nicht bloß Text generieren, sondern ihr eigenes Denken und ihren Code kontinuierlich überprüfen, verifizieren, planen und eigenständig verbessern?

In dieser Einführungsvorlesung analysieren wir die evolutionäre Flugbahn von Basis-LLMs zu Agentensystemen, formalisieren die Mathematik der Skalierungsgesetze und der Inferenzzeit-Rechenallokation, untersuchen die vier kanonischen Agenten-Workflow-Muster und isolieren den kritischen Flaschenhals autonomer Intelligenz: die Generator-Verifizierer-Lücke (Generator-Verifier Gap).