Una publicación etiquetados con "Denny Zhou"

Durante décadas, los investigadores de inteligencia artificial operaron bajo un arraigado escepticismo respecto a las redes neuronales conexionistas:

"Un modelo de lenguaje autoregresivo no es más que un loro estocástico (Stochastic Parrot) que predice la siguiente palabra mediante probabilidades estadísticas. Al enfrentarse a problemas aritméticos de múltiples pasos, lógica formal o deducciones causales, produce alucinaciones superficiales porque el modelado de secuencias es incapaz por naturaleza de razonamiento deductivo genuino."

De hecho, los primeros modelos de frontera fallaban de forma estrepitosa ante problemas matemáticos escolares de palabras, arrojando números incorrectos de inmediato sin desarrollar pasos lógicos intermedios.

Al inaugurar la esperada Parte 4: Las Fronteras (Lecciones 13 a 17) de Stanford CS329A: Self-Improving AI Agents, nos adentramos en la cumbre intelectual de la inteligencia artificial: LLM Reasoning Foundations. Guiados por las investigaciones seminales del Dr. Denny Zhou (Líder de Razonamiento en Google DeepMind), examinamos cómo se enciende la chispa del razonamiento en los modelos neuronales:

• Chain of Thought CoT Prompting (NeurIPS 2022): Cómo la descomposición en pasos de razonamiento en lenguaje natural elevó la precisión de PaLM 540B del 18% al 57% sin modificar un solo peso del modelo.
• Self-Consistency Decoding LLM (ICLR 2023): Basado en el principio de Anna Karenina de Tolstói — "Los caminos lógicos válidos convergen en una verdad única, mientras que los erróneos divergen hacia el caos" — muestreando múltiples trayectorias y filtrando el ruido por consenso mayoritario.
• Emergent Cognitive Abilities AI (2022): La física de las transiciones de fase ("More is Different") y el gran debate epistemológico: ¿es la emergencia un fenómeno físico real o un espejismo matemático creado por métricas no lineales?