Pokémon RedをプレイしていたAIエージェントは、月見山(Moonview Cave)の洞窟で同じ道を3度も引き返してしまいました。モデルの計算能力が不足していたわけではありません。洞窟入口の隣にあるポケモンセンターの位置を、山が「東側」と誤って記述したメモの一行が原因でした。センターを出た際にすでに山を抜けたと錯覚したエージェントは、顎の下まで下りて元の道に戻るループを3回繰り返しました。Anthropicがこのメモリフォルダに「ドリーミング(dreaming)」と呼ぶ段階を適用したところ、エージェントは自身のメモを元の作業記録(ログ)と照合して位置の一行を修正し、次の試行では洞窟を通過して次の都市であるブルーシティ(Blue City)に到達しました 1。

「AIが夢を見る」という言葉は、神秘な意識現象を意味するものではありません。ここでのドリーミングとは、作業を終えたエージェントがアイドル時に蓄積された記録を開き直して自身のメモを読み返し、誤りを修正する検証段階です。本稿では、Anthropicが公開した「ドリーミング」が具体的にどのような作業を行うのか、そしてメモを修正・整理した際に性能にどのような差が生じたのかを実験数値に基づいて検討します。

「夢」という比喩の背後にある単純な動作

'夢'という比喩の背後にある単純な動作

ドリーミングを一文に要約すると、作業終了後にエージェントが元の作業記録を開き、自身のメモと照合して誤りを修正し、散逸した内容を整理するプロセスです 1。この概念の源流は、LettaとUC Berkeleyの研究チームが提案した「睡眠時間計算(sleep-time compute)」にあります。Letta研究チームは2025年4月21日のブログで、ユーザーが直接関与しないアイドル時に、エージェントが持続的なメモリに基づいて情報を再構成し、推論を事前に済ませておくと、後で会話する際の不要な計算を減らせると紹介しました 2。この際、生データそのままの「生コンテキスト(raw context)」を、整理された「学習済みコンテキスト(learned context)」に変換することが核心的なアイデアです 2。

Anthropicが述べるドリーミングは、この発想をエージェントの作業記録に適用したものです。構造は以下の通りです。最下層に検索可能な元の作業記録があり、その上に重要な内容のみを抽出したメモ、テーマ別ページをリンクで結んだウィキ、そして新しいセッションが開始されるたびに自動的に読み込まれる情報が配置されます。ドリーミングは、これらの上位の記録を下位の元の記録と照合して作成・修正する関係を指します 1。したがって、「夢」という単語は、生物学的な睡眠と類似した意識状態を指すものではなく、本作業の合間にメモリの再整理を挿入するスケジューリングを比喩的に表現したものです。

メモの「種類」と「読む習慣」がスコアを分ける

ドリーミングの第一の役割は、メモの質を変えることです。Anthropicは、記憶活用能力を評価するCL-Bench 1.0のデータベースクエリタスクにおいて、各質問ごとに新しいセッションを開始し、前のセッションのメモリフォルダのファイルのみを引き継げるようにしました 1。回答後には正解を通知し、誤りの理由を理解して次の質問に役立つ内容を記録する機会を与えました。ここで各モデルのアプローチが分かれました。Sonnet 4.6は誤答の原因に関する未検証の推測を複数のファイルに散りばめましたが、Opus 5はまず原因を試験し、検証済みのルールとその根拠のみを記録しました 1。

結果はスコアにそのまま表れました。回答に対する平均報酬スコアを見ると、Opus 5は記憶なしでは0.564でしたが、ドリーミングを通じて整理されたメモリフォルダを使用すると0.828に上昇しました 1。一方、未検証の推測を残したSonnet 4.6は、同じ比較で0.330から0.364への微増にとどまりました 1。検証済みルールを残した経路と推測を残した経路の差は顕著です。ただし、Opus 5.5やSonnet 5.5のように検証済みルールを残した他のモデルは、それぞれ0.838と0.833でOpus 5と類似しており、記憶なしの条件では逆にOpus 5よりやや高いスコアを記録しました 1。これらの数値が示すように、ドリーミングの利点はメモの量自体ではなく、確認された事実と推測を区別する手法から生まれます。

メモをうまく書いても、読まなければ意味がありません。実験では、Sonnet 4.6は回答前にメモリファイルを開く割合が半分にも満たない一方で、Sonnet 5は個別の指示なしに10回中9回を開いていました。Sonnet 4.6に対して、回答前に記憶を読み、原因に関する仮説をテストするように指示すると、スコアは0.364から0.641に上昇しました。各条件を3回実行した平均値です 11。整理されたメモを取り出して使う習慣そのものが性能のボトルネックになり得ることを見せる部分です。逆に、何を記録するかを過度に一律に制限すると、損失が生じました。Opus 5は「失敗のみを記録せよ」という指針が付与されると、逆に向上幅が減少しました。Anthropicは、高性能なモデルに対して具体的な選別基準を強制するよりも、モデル自身の判断に任せる方が望ましいと説明しています 1。

ドリーミングがなければ、記録管理が本作業を圧迫する

ドリーミングがなければ、記録管理が本作業を圧迫する

記録を選別する能力が重要な理由は、ポケモンレッドの実験でより鮮明に確認できます。Anthropicは、Sonnet 3.7とFable 5をそれぞれ一度実行し、約1万ステップ時点の記憶を比較しました 1。Sonnet 3.7は戦闘、アイテム、出会った人物を密に記述し、225個のフォルダに413個のファイルを残しました。問題は、ゲームの状態が変化し続けるため、この密な記録がすぐに陳腐化してしまった点です。陳腐化した記録を追跡するのに時間とリソースがより多く必要となり、約1万ステップ頃には4番目の統合メモリフォルダの作成を開始しました。その後続いた17ステップの間、6個のファイルを作成し9個を削除しましたが、ゲーム内では何も行動できませんでした 1。

Fable 5は異なりました。画面で毎回確認できる現在地や所持金はわざわざ記述せず、自ら見つけた戦略と計画のみを残しました。2つのフォルダ内の9個のファイルと、グローバルファイル(global.md)の計10個を維持し、その結果、Sonnet 3.7が1個にとどまったバッジを4個まで取得しました 1。この対比は、ドリーミングの必要性を逆説的に説明しています。元の記録と照合して陳腐化・誤った情報を整理する段階がなければ、繁茂した記録の管理自体が本作業を侵食するためです。Claudeが洞窟で3度も迷走したのも、一度誤って記述した位置がその後の判断にそのまま使用されたために起きた事象でした 1。

散逸した文書を一つに縫い合わせるウィキドリーミング

ドリーミングは個別のメモ修正にとどまらず、散逸した情報をテーマ別に編成するウィキまで拡張可能です。Anthropicは、自社が買収したソフトウェア企業Stainlessの内部資料約35万件(モデルがテキストを処理する単位であるトークン数にして約4億2,000万件)を対象にこの方式をテストしました 1。Opus 5のエージェントたちに最大128セッションにわたってウィキを作成させ、先行セッションが残したリンクを引き継ぎながらページを追加し、重複を統合し、出典と照合させました。ウィキ作成セッションが2から128に増加したことで、ウィキのみを見て回答した場合の評価基準充足率は13%から48%に上昇しました 1。

検索との違いは何でしょうか。検索のみを使用した場合のスコアは53%でした。ウィキと検索を併用すると、54%から61%に上昇しました 1。この比率は、25件の質問それぞれに設定した評価基準をどれだけ充足したかを示しています。特に複数の文書からの情報を統合する必要のある質問においてウィキの効果は大きく、これは合併に関する別テスト(24件の質問)で確認されました。当該テストにおいて、文書統合や判断・計算が必要と分類された項目では、ウィキを参照した場合に87%、検索のみを行った場合に73%のスコアを記録しました 1。Anthropicは、ドリーミングによって作成したウィキと検索を併用した場合、1質問あたり約2万トークンを節約できる可能性を報告していますが、これは回答発見時のコスト削減であり、ウィキの事前作成と管理には別途計算が必要となります 1。

しかし、このウィキにおいても作成指針が品質を決定します。企業買収を想定した法務レビュータスクでは、契約条件を正確に説明したかを採点しました。当初の指針が契約条件の保持を要求していなかったため、複数のエージェントが共有表に条件を記述している際に互いに上書きされ一部が消失し、評価対象の事実57件のうち41件、約72%のみが審査文に含まれていました 1。失敗の原因を検討した後、各契約ごとにエージェントが個別ページを担当し、条件を原文のまま引用するように指針を変更したところ、新しいウィキは57件の事実をすべて保持し、審査文もそのタスク基準をすべて充足しました 1。整理プロセスがいくら精緻でも、何を残すかが使用目的と適合していなければ意味がありません。

結論:ドリーミングは魔法ではなく「検証ルール」の問題

ドリーミングで報告された差異を一文に要約すると、各タスクに適用されたメモとウィキの再読・照合・整理段階に関連しています。修正されていないポケモンレッドの記憶は、3回同じループに陥りブルーシティに到達できませんでしたが、ドリーミング後にメモを元の作業記録と照合・修正した記憶で進めた場合は、洞窟を抜けてブルーシティに到達し、CL-Benchデータベースタスクで検証済みルールを残したOpus 5は、平均報酬スコアが記憶なしの0.564から、メモリフォルダ使用時に0.828へ上昇しました。ただし、同タスクで検証済みルールを残したOpus 5.5とSonnet 5.5はそれぞれ0.838と0.833で類似しており、記憶なしの条件ではOpus 5よりやや高いスコアでした。Stainlessの資料において、ウィキ作成セッションを2から128へ増加させると、ウィキのみを見て回答した場合の評価基準充足率は13%から48%へ上昇し、セッションを128へ増やしたウィキのみのスコアは、検索のみの53%より低く、ウィキと検索を併用した際に54%から61%へ上昇しました 1。したがって、共通して確認されるのは、ドリーミングが適用された事例においてメモとウィキの点検・修正段階が関連しているという点であり、すべての効果が単一の元のログを開くだけの単一メカニズムで証明されたわけではありません 1。

しかし、ドリーミングは単に新しい記憶を積み重ねることではなく、既存のメモとウィキを読み返して修正し、必要に応じてページを追加したりリンクを再構成したりする整理段階であるため、設計上の判断が伴います。メモを書いても新しいセッションで開いて読まなければそのメモを活用できず、陳腐化した情報を継続して管理することに追われて本作業を17ステップも停止させたモデルもありました 1。Anthropicは、記憶が最初に記録された時点から誤っていたり、環境の変化により陳腐化したりする可能性があることを認め、すべての記憶を毎回検証するコストの観点から、変更可能性の高い情報や頻繁に使用される情報から点検サイクルを調整する課題を今後の検討事項として残しています 1。結局のところ、ドリーミングは魔法のような自動整理ではなく、元の記録とメモの間のギャップを狭めるルールを誰が、どのような指針で設計するかにかかっています。

参考文献

  1. ↩
  2. Sleep-time Compute · letta.com
    ↩