Una publicación etiquetados con "foundation-models"

Bienvenidos al desglose técnico integral del curso CS329A de la Universidad de Stanford: Self-Improving AI Agents (Agentes de IA Autoevolutivos, Otoño 2025).

Durante los últimos cuatro años, el panorama de la inteligencia artificial ha estado dominado por un dogma potente y omnipresente: preentrenar modelos cada vez más grandes sobre corpus de texto colosales produce capacidades cognitivas crecientes de manera predecible. Si bien este paradigma impulsó la revolución de la IA generativa moderna —dando origen a sistemas como GPT-4, Claude 3.5 y Gemini—, la frontera de la investigación en aprendizaje automático ha alcanzado un punto de inflexión decisivo.

Los modelos fundacionales estáticos (Static Foundation Models), sin importar cuán astronómico sea su recuento de parámetros, poseen limitaciones intrínsecas insalvables: son predictores pasivos y autorregresivos del siguiente token que operan en un régimen de bucle abierto (open-loop). Una vez que sus pesos quedan congelados tras el entrenamiento, no pueden asignar dinámicamente más cómputo a problemas difíciles, no pueden verificar de forma autónoma la veracidad de sus deducciones, ni pueden corregir iterativamente sus propios errores mediante retroalimentación ambiental.

flowchart LR
    subgraph Paradigma_Estatico ["Paradigma Estático Tradicional (2020-2024)"]
        direction TB
        A1[Corpus Web Masivo] --> B1[Clúster de Preentrenamiento]
        B1 --> C1[Ajuste Fino Supervisado SFT]
        C1 --> D1[Modelo Estático Congelado]
        D1 -->|Pase Hacia Adelante Único| E1[Respuesta Textual Aislada]
    end

    subgraph Paradigma_Autonomo ["Frontera Stanford CS329A: Agentes Autoevolutivos"]
        direction TB
        A2[Objetivo Complejo] ==> B2[Motor de Razonamiento y Planificación]
        B2 -->|Borrador de Acciones / Código| C2[Entorno Sandbox y Herramientas]
        C2 -->|Trazas de Ejecución y Estado| D2[Verificadores de Procesos PRM]
        D2 -->|Señales de Recompensa y Error| B2
        D2 ==>|Actualizaciones en Inferencia y Entrenamiento| E2[Autoevolución Continua]
    end

Stanford CS329A aborda la pregunta cardinal de la próxima década de la IA: ¿Cómo construimos agentes de software que no se limiten a generar texto, sino que inspeccionen, verifiquen, planifiquen y perfeccionen continuamente su propio razonamiento y código?

En esta conferencia inaugural, deconstruimos la trayectoria evolutiva desde los LLMs fundacionales hacia los sistemas agénticos, formalizamos la matemática de las leyes de escala y la asignación de cómputo en inferencia, analizamos los cuatro arquetipos de flujos de trabajo agénticos y aislamos el cuello de botella más crítico de la inteligencia autónoma: la Brecha Generador-Verificador (Generator-Verifier Gap).