Chain-of-Thought Prompting

思考の連鎖プロンプティングとは何か、モデルに直接答えを求めることと何が違うのですか？

思考の連鎖プロンプティング(Chain-of-Thought Prompting、略してCoT)は、モデルが最終的な答えを出す前に、中間の推論プロセスをテキストとして書き出すよう求める手法だ。最もシンプルな発動方法は、プロンプトの末尾に「一歩ずつ考えましょう」というフレーズを加えることで、モデルは結論に直接飛びつくのではなく、一連の推論ステップを展開してから最終的な答えに至る。

これはモデルに「答えだけをください」と直接求めることとは異なる。後者はモデルに内部ですべての推論を一気に完了させて結果だけを出力するよう求めるのに対し、前者は推論プロセスを外部化し、目に見えるテキストの一部にする。この違いは単純なタスクではあまり目立たないが、複数ステップの論理的導出が必要なタスク(数学の応用問題、複雑な条件判断など)では差が顕著になる——推論プロセスを外部化することで、モデルは1回の生成ですべての論理の飛躍を同時に処理するのではなく、各ステップが妥当かどうかを順を追って確認する機会を得られる。

なぜ思考の連鎖プロンプティングは精度を向上させるのか、その背後にあるメカニズムは何ですか？

2022年にWeiらが発表した元の論文でこの手法が提案された際の核心的な観察は次の通りだ。複雑な複数ステップの問題(特に数学的推論、常識推論)は、モデルに一度に直接答えを生成させると、途中のどこかの論理段階で誤りを犯しやすく、その誤りはチェックされずそのまま最終的な答えに反映されてしまう。しかしモデルに先に推論ステップを書き出させれば、大きな問題を一連の小さな中間ステップに分解することになり、各ステップは比較的単純な論理判断だけを処理すればよいため、誤りが生じる確率が自然に下がる。

注目すべきは、思考の連鎖プロンプティングは小規模モデルへの効果は限定的だという点だ。論文の実験では、この手法の効果は主にモデルの規模が十分大きい場合に顕著に現れることがわかった——これが思考の連鎖プロンプティングが大規模言語モデルの「創発的能力」の一つに分類されることが多い理由でもある。一定の規模に満たないモデルでは、同じプロンプト手法を適用しても向上幅は相対的に限定的である。

思考の連鎖プロンプティングにはどんな使い方があり、適用場面にどんな違いがありますか？

最も基本的な形はZero-Shot-CoTだ——例を一切提供せず、単にプロンプトに「一歩ずつ考えましょう」というフレーズを加えるだけで、モデルは自動的に推論ステップを展開する。これは最もシンプルでコストの低い使い方だ。

より高度な形は思考の連鎖と少数ショットプロンプティング(Few-Shot Prompting)を組み合わせるものだ——プロンプトに「問題＋完全な推論プロセス＋答え」の例を1つ以上提供し、モデルにその例の推論スタイルを模倣させて新しい問題を処理させる。この組み合わせは通常、純粋なZero-Shot-CoTより効果が高いが、十分に質の高い例を設計する手間がかかる。さらに「表形式の思考の連鎖」といった派生形もあり、モデルに推論プロセスを表形式で出力させることで、構造化された出力形式によって推論の筋道をさらに整理しやすくする。3つの使い方に共通するのは「先に推論を展開してから答えを出す」ことであり、違いは例による誘導の有無と推論プロセスの提示形式にある。

Claudeと対話する際、どんな場合に思考の連鎖プロンプティングを積極的に使うべきですか？

タスク自体が単純で、答えにほとんど中間推論が必要ない場合(事実を調べる、単純なフォーマット変換など)は、あえて思考の連鎖を求める必要はなく、むしろ回答が冗長になる可能性がある。積極的に使うべき状況は、タスクが複数ステップの論理判断を伴う場合、複数の条件を比較検討する必要がある場合、あるいはモデルが特定の種類のタスクで推論を経ずにいきなり答えに飛びついて間違えることによく気づく場合だ。こうした場合、「推論ステップを先に示してから結論を出してください」と明確に求めることで、答えだけでなく、途中のどのステップで論理がおかしくなったかも見えるようになり、答えが信頼できるかどうか、さらに修正が必要かどうかを判断しやすくなる。

コードのデバッグ、複雑な計画タスク、あるいは複数の選択肢の優劣を比較する必要がある意思決定において、思考の連鎖プロンプティングの効果は特に顕著だ——外部化された推論プロセスは精度を高めるだけでなく、ユーザーであるあなたがモデルの判断ロジックを追跡できるようにし、ブラックボックスの答えを受け取るだけの状態から抜け出せる。