「DeepMind」タグの記事が1件件あります

長年にわたり、人工知能の研究者たちの間にはニューラルネットワークに対する深い懐疑論が根強く存在していました：

「大規模言語モデルは、統計的にもっともらしい単語を繋ぎ合わせる『確率論的オウム（Stochastic Parrot）』に過ぎない。多段階の計算、形式論理、因果関係の連鎖を要求する課題を与えても、もっともらしい嘘（ハルシネーション）を並べるだけで、真の論理的演繹を行うことは原理的に不可能である。」

実際、初期のフロンティアモデルに小学校レベルの算数の文章題を与えると、途中の思考プロセスを省略して即座に誤った数値を答え、惨敗を喫していました。

本講義から幕を開けるStanford CS329A: Self-Improving AI Agentsの最終章Part 4: フロンティア（Frontiers, Lectures 13 through 17）では、機械知能の最も深遠な知の未踏峰であるLLM Reasoning Foundationsへと踏み込みます。Google DeepMindの推論研究統括であり思考の連鎖（CoT）の生みの親である**デニー・チョウ（Denny Zhou）**博士の金字塔的研究を軸に、言語モデルの中で「推論」という神秘的な火花がどのように点火されるのかを解き明かします：

• 思考の連鎖プロンプティング (Chain of Thought CoT Prompting, NeurIPS 2022): 自然言語による中間思考ステップを導入するだけで、モデルの重みを一切変更せずにPaLM 540Bの数学正解率を18%から57%へと急伸させた原理。
• 自己無矛盾性デコーディング (Self-Consistency Decoding LLM, ICLR 2023): 「正解に至る道は一つに収束し、誤答への道は無数に発散する」というトルストイの収束法則に基づくサンプリングと多数決統合。
• 創発的認知能力 (Emergent Cognitive Abilities AI, 2022): 複雑系物理学の相転移（「More is Different」）と、「創発は非線形指標がもたらした蜃気楼（Mirage）か？」を巡る歴史的学術論争。