[Stanford CS329A #17] Future Research Directions: Le Grand Final des Agents Auto-Évolutifs (Grand Finale: Recursive Self-Improvement, Swarms, and Safe Superintelligence)
Au terme de seize cours intenses et rigoureux, nous atteignons le sommet intellectuel de l'intelligence artificielle moderne. Aujourd'hui s'ouvre Lecture 17 (Le Grand Final) de Stanford CS329A: Self-Improving AI Agents. Dans cette synthèse magistrale, nous explorons le Self-Improving AI Agents Future(futur des agents d'IA auto-évolutifs), les conditions aux limites de la Recursive Self-Improvement Singularity(singularité d'auto-amélioration récursive), la dynamique de l'Open-Ended Agent Evolution(évolution ouverte des agents), les limites architecturales des Autonomous Agent Swarms AGI(essaims d'agents autonomes et AGI), et les jalons vitaux de la Safe Superintelligence Roadmap(feuille de route pour une superintelligence sûre).
Avant d'esquisser l'avenir, contemplons la pyramide conceptuelle bâtie ce semestre :
- Part 1 · Foundation (Fondations et Recherche, L1–L5) : Le passage de l'autorégression de tokens isolés au passage à l'échelle du calcul d'inférence (loi d'allocation optimale de Snell), aux modèles de récompense de processus (PRM), à l'exécution d'outils en boucle fermée ReAct et à la recherche arborescente Monte Carlo (MCTS).
- Part 2 · Training & Evolution (Entraînement et Évolution, L6–L9) : L'apprentissage par renforcement sans critique via DeepSeekMath GRPO, la découverte méta-architecturale d'agents (ADAS, The AI Scientist), la recherche approfondie multi-sauts et la mutation post-entraînement des chatbots conversationnels en agents autonomes.
- Part 3 · Agent Engineering (Ingénierie des Systèmes, L10–L12) : Les agents de génie logiciel industriel (SWE-bench), les interfaces agent-système (ASI), la mémoire hiérarchique inspirée de la pagination d'OS (MemGPT, Cartridges), ainsi que l'évaluation macroéconomique (GDPval, loi de doublement METR tous les 7 mois).
- Part 4 · Frontiers (Frontières de l'Intelligence, L13–L16) : Les fondements cognitifs du raisonnement Chain-of-Thought, la démonstration formelle aux olympiades de mathématiques (AlphaProof, Lean 4), la fiabilité à trois couches avec AI Control et la robotique incarnée Vision-Langage-Action (VLA).
À travers chaque avancée, une colonne vertébrale unique a structuré l'intelligence : 《Génération $\to$ Vérification $\to$ Boucle de Rétroaction Fermée》. Mais si nous déployons cette boucle à une échelle $1,000\times$ supérieure durant des milliers d'heures dans la réalité non structurée : où le système se brisera-t-il en premier ?