新しい分野で構築することの素晴らしい点の一つは、まだ正解が存在しないことです。これはまた、何かを構築するには必然的にエコシステムがどこへ進化するかについて賭けをすることを意味します。私たちは、この分野でよく議論される質問と、それに対する私たちの予測を(網羅的ではありませんが)以下にまとめました。皆さんのご意見、予測、反対意見をお聞かせください!
ラボ以外にメモリと知識ベース企業の余地はあるのか?
- 予測: 垂直方向のメモリスケーリング(つまり、エージェントの長時間稼働を支援する)を行う企業は競争が難しく、ラボや他のエージェントハーネスに圧迫されるでしょう。水平方向のスケーリング(つまり、チームや組織全体)を行う企業は、より良い環境を見つけるでしょう。これは、エンタープライズの取引サイクルが長く、問題(データ分離、セキュリティ、企業オントロジー)が最新のモデルアップデートや研究アイデアでは解決できないためです。
メモリレイヤーは重み空間 vs トークン空間のどちらで動作すべきか?
- トークン空間には多くの利点があります。解釈可能です。モデルに依存しません。低コストです。ストレージ、データ分離、モジュール性などを扱うために数十年にわたって構築されたインフラがあります。
- しかし、重みはより表現力が高いように思われ、トークン空間だけでは解決できない問題のクラスが存在する可能性があります。特に、曖昧な線や複雑な分岐パスを含む手続き的記憶は、トークン空間には適していないようです(例えば、ボードゲームのルールを読もうとするのと、遊び方を示されるのを比べてみてください)。
- 予測: ほとんどのメモリはトークン空間で動作するでしょう(例:エージェントトレース、意味情報など)が、特定の問題(例:書き方のスタイル、好み、手続き的スキルなど)については、モデルに適合させることができる高まっているコンセンサスが存在するでしょう。メカニスティック・インタプリタビリティの技術によって、それらを解釈できるようになるでしょう。
メモリは単なる検索と取得の問題なのか?
- 現在のほとんどのメモリシステムは、取得に焦点を当てています。エージェントが作業を行うために適切な情報を適切なタイミングで見つけることに重点を置いています(例:LoCoMo ベンチマークは干し草の山から針を探す取得に焦点を当てています)。
- 問題は、これがメモリ問題を解決するのに十分かどうかです。言い換えれば、最先端の検索(例:Google や Exa や Perplexity)をプライベートデータストアに接続した場合、それでメモリは解決されたと言えるでしょうか?
- 予測: 最前線で活動する研究者やビルダーの間で、メモリは単なる情報の保存とその情報の取得ではないという高まっているコンセンサスがあります。私たちはこの問題を内部的に「爆発半径」と呼んでいます。情報の有用性は範囲(時間またはコンテキスト)によって制限されます。人間は大量の無関係なテキストを読んでも、最も有用な情報に適切な重みを適用することに問題はありません。純粋な取得システム(スマートな再ランキングがあっても)はそれには及びません。
コンテキストに自動的に情報を注入すべきか?
- 反対論はコンテキストロット(文脈腐敗)や汚染です。エージェントに情報を注入することは、特にそれが正しい情報でない場合、パフォーマンスを低下させる可能性があります。また、エージェントがセッション間の関連性を過度に重視する原因となり、それが実際には存在しない可能性もあります。これが、多くの人が ChatGPT や Claude Code のメモリ機能をオフにする理由です。
- 予測: コンテキストに情報を注入することは重要です。なぜなら、エージェントが「未知の未知」に対処できるようになるからです。完璧なメモリツールがあっても、エージェントがそれを使うことを知らなければ、問題は解決していません。人間の場合、この種の「注入」は常に起こっています。過去の記憶が、あなたの積極的な選択なしに意識に浮かびます。現在のこの問題は、おそらく上記で概説した爆発半径の問題に起因するものです。
メモリに適切なベンチマークとは何か?
- 既存のベンチマーク(LoCoMo や LongMemEval など)は十分ではないという一般的な認識があります。それらで約 85 % のパフォーマンスに達していますが、メモリは今も 1 年前と同じように未解決だと感じられています。さらに、ベンチマークでのパフォーマンス向上は、ユーザー視点での「より良い感触」のメモリと相関しているようには見えません。
- さらに、この分野のベンチマークは構築が困難です。メモリが動作する時間軸が本質的に長いため、データの可用性やコスト/スケーリングの問題が生じるからです。
- 予測: この問題を解決する企業やラボは、おそらくベンチマークでの山登りによってではなく、現在のベンチマークが測定していない何らかの顧客/ユーザーインサイトに賭けることによって解決するでしょう。これは、Wisprflow が他の文字起こしツールが固執していた単語誤り率メトリクスを捨てたのと似ています。
より長いコンテキストウィンドウがすべてを解決するのか?
- 私たちは 1 月に、コンテキストウィンドウは実際には問題を解決しないという1 月の予測を立てましたが、それは今のところほぼ正しいことが判明しています。
強力なモデルとデータ統合の組み合わせはメモリシステムを不要にする
- 賛成論としては、フロンティアモデル + エージェントハーネス + MCP データコネクタがあれば、任意の情報を取得できるというものです。そして、取得品質は他のシステム(LLM Wiki、ハイブリッド検索など)と比べてあまり変わらないことがわかっています。
- 予測: 短期的には、メモリシステムは依然として有用です。フロンティアモデルが常にすべてを検索するよりも、レイテンシとコストを削減できるからです。中長期的には、メモリシステムは取得の一貫性を可能にし、それが複利効果を生み出します。言い換えれば、私たちは今でもエージェントにコードを書かせ、それを時間をかけて改善させています。直接アプリを顕在化させるのではなく。
ファイルシステム上のエージェント検索があれば十分
- Letta は昨年この予測を立てましたが、それは非常に予言的であることが判明しています。短中期的には、エージェントはコーディングパフォーマンスを目的としたポストトレーニングにより、ファイルシステム上で非常に優れた動作をします。そのポストトレーニングを活用することで、今日の報酬が得られます。
- 予測: 長期的には、ファイルシステムに加えてハイブリッドインデックスの一種を想像しないのは難しいです。これが必要である主な直感は、データ量が多い場合やフェデレーションユースケースでは、ファイルシステムのパフォーマンスが低下することです。生データに対するエージェントの「モノローグ」もますます重要になり、それをサポートするための原則的で構造化された方法が必要になるでしょう。





