[論文レビュー] Chain of Thought Empowers Transformers to Solve Inherently Serial Problems
論文は、チェーン・オブ・思考(CoT)が定数深度トランスフォーマーに本質的に直列計算を実行させる理論的枠組みを示し、標準の TC0/AC0 の境界を超える表現力を拡張し、経験的タスクと整合することを示す。
Instructing the model to generate a sequence of intermediate steps, a.k.a., a chain of thought (CoT), is a highly effective method to improve the accuracy of large language models (LLMs) on arithmetics and symbolic reasoning tasks. However, the mechanism behind CoT remains unclear. This work provides a theoretical understanding of the power of CoT for decoder-only transformers through the lens of expressiveness. Conceptually, CoT empowers the model with the ability to perform inherently serial computation, which is otherwise lacking in transformers, especially when depth is low. Given input length $n$, previous works have shown that constant-depth transformers with finite precision $\mathsf{poly}(n)$ embedding size can only solve problems in $\mathsf{TC}^0$ without CoT. We first show an even tighter expressiveness upper bound for constant-depth transformers with constant-bit precision, which can only solve problems in $\mathsf{AC}^0$, a proper subset of $ \mathsf{TC}^0$. However, with $T$ steps of CoT, constant-depth transformers using constant-bit precision and $O(\log n)$ embedding size can solve any problem solvable by boolean circuits of size $T$. Empirically, enabling CoT dramatically improves the accuracy for tasks that are hard for parallel computation, including the composition of permutation groups, iterated squaring, and circuit value problems, especially for low-depth transformers.
研究の動機と目的
- チェーン・オブ・思考プロンプトがデコーダーのみのトランスフォーマーの推論を改善する理由を動機づけ、特徴づける。
- 有限精度の下でトランスフォーマーをCoT有無で比較する形式的表現力フレームワークを提供する。
- CoT により、埋め込みを制限した定数深度トランスフォーマーが回路サイズの計算を模擬できることを示す。
- 理論と経験的タスクを橋渡しし、CoT が inherently serial な問題に対していつ有利かを示す。
提案手法
- 有限精度トランスフォーマーモデルと回路複雑性の視点でのCoT拡張を定義する。
- CoTを用いたトランスフォーマーの表現力の複雑さクラスを確立する(CoT[T(n),d(n),s(n),e(n)]を含む)。
- 現実的な丸めを前提とした上で、CoTが表現力をAC0/TC0の境界を超えて高める上界を導出・証明する。
- CoTが多項式回数の手順で、Tサイズの回路計算を模擬できることを証明する。
- 理論的主張を検証するための経験的タスク(モジュラー加算、置換の合成、反復平方、回路値)を提供する。
実験結果
リサーチクエスチョン
- RQ1定数深度・有限精度のCoT付きトランスフォーマーは、回路サイズが増大するにつれてTC0/AC0を超える関数を表現できるか?
- RQ2CoT付き/なしのトランスフォーマーの正確な計算理論的境界(例:AC0、TC0、P/poly)はどうなるか?
- RQ3CoTは低深度のトランスフォーマーが本質的に直列なタスクを解く能力にどのように影響するか?
- RQ4経験的タスクは、CoTが有利になる予測と整合するか?
主な発見
- CoTなしの定数精度トランスフォーマーは、特定の設定でAC0に含まれ、TC0の厳密な真部分集合である。
- CoTのTステップを用いると、定数ビット精度とO(log n)の埋め込みを持つ定数深度トランスフォーマーは、サイズTの回路で計算可能な任意の関数を表現できる。
- 多項式回数のCoTステップを用いれば、トランスフォーマーはP/polyのすべての回路を計算可能となり、表現力が大幅に拡張される。
- 系綜項(Corollaries)により、すべての正則言語は線形または対数ベースの構成でCoTにより解ける。
- 実験的タスクは、CoTが本質的に直列問題(例:置換の合成、反復平方、回路値)を、低深度で並列計算が苦しむケースで解決できることを示す。
- 結果は理論的境界と、直列計算を必要とするタスクでの実用的デモの両方を包含する。
この論文を読む
Nubintのビューアで原文を開き、読みながら気になる箇所をすぐに質問できます。
Nubintでこの論文を読むこのレビューはAIが論文の原文をもとに作成しました。引用する前に原文をご確認ください。