Uma publicação com a etiqueta "DeepMind"

Durante décadas, a comunidade de inteligência artificial conviveu com um profundo ceticismo em relação às redes neurais conexionistas:

"Um modelo autorregressivo de linguagem nada mais é do que um papagaio estocástico (Stochastic Parrot), que concatena palavras estatisticamente prováveis. Ao se deparar com cálculos de múltiplos passos, lógica formal ou deduções causais, ele produz apenas alucinações vazias, sendo incapaz de raciocínio dedutivo genuíno."

De fato, os primeiros modelos de ponta fracassavam diante de problemas matemáticos escolares expressos em palavras, devolvendo respostas numéricas incorretas de imediato, sem estruturar qualquer cadeia lógica intermediária.

Inaugurando a quarta e conclusiva etapa do nosso curso — Part 4: As Fronteiras (Aulas 13 a 17) de Stanford CS329A: Self-Improving AI Agents —, adentramos o ápice intelectual da inteligência artificial: as LLM Reasoning Foundations. Guiados pelos estudos inaugurais do Dr. Denny Zhou (Líder de Raciocínio no Google DeepMind), investigamos como a centelha do raciocínio cognitivo se acende nos modelos neurais:

• Chain of Thought CoT Prompting (NeurIPS 2022): Como a decomposição em etapas de raciocínio em linguagem natural elevou a acurácia de PaLM 540B de 18% para 57% sem alterar um único peso do modelo.
• Self-Consistency Decoding LLM (ICLR 2023): Inspirado no princípio de Anna Karenina de Tolstói — "Os caminhos corretos convergem para uma verdade única, enquanto os erros divergem para o caos" — filtrando o ruído estocástico através do voto por consenso da maioria.
• Emergent Cognitive Abilities AI (2022): A física das transições de fase ("More is Different") e o grande debate epistemológico: a emergência é uma propriedade física autêntica ou uma miragem matemática provocada por métricas não lineares?