2023 年,幾乎所有人都以為 agent memory 主要是 context window 的問題。
Context window 很小。模型是無狀態的。如果你想讓 agent 記住任何事,就得把對的文字塞進 prompt、檢索舊對話、摘要 transcript,或在模型外面包一層聰明的 wrapper。Memory 感覺像是 branding 比較好的 context management。
這不算錯。但不完整。
過去幾年,「memory」的意思悄悄變了。一開始是對抗遺忘的 workaround。接著變成讓 agent 看起來可信的方法。再來變成 benchmark。再來變成產品類別。再來變成戰場。到了 2026 年,它正逼近所有 agentic AI 底下那條真正的問題:
一個 AI 系統,能不能在不腐化自己的前提下累積經驗?
2023:村莊、作業系統,與認知地圖
Generative Agents
對很多人來說,第一篇讓 agent memory 感覺「真的」的論文是 Generative Agents。
它給了我們 Smallville:一座小小的模擬小鎮,住著 25 個 agent,他們會起床、做早餐、上班、彼此交談、形成意見、記住事件,甚至組織情人節派對。神奇的地方不是底層語言模型變了——它沒有。神奇的是圍繞它的架構。
每個 agent 有一條 memory stream:用自然語言記錄觀察與經驗。記憶依 relevance、recency、importance 檢索。Agent 也會反思這些原始記憶,把零散觀察轉成更高層的信念。現在聽起來簡單,但這成了整個領域的核心模板之一:observe、store、retrieve、reflect、plan。
LLM Finite Context Window (MemGPT)
差不多同時,MemGPT 給了另一個隱喻:LLM 作為作業系統。如果 context window 是快但極小的記憶體,那外部 store 就是慢但很大的記憶體。模型變成自己的記憶管理器,透過 function call 把資訊 page in / page out。
這個 framing 留下來了。即使後來的系統不再字面上像 OS 那樣分頁,直覺仍在:memory 不只是更多文字。它是生命週期管理。什麼保持 active?什麼被 evict?什麼被摘要?什麼被持久化?
Categorization of human memory (Lil’Log)
接著 CoALA 給了這個領域一張認知地圖。它把 language agents 組織成 working memory、episodic memory、semantic memory、procedural memory。CoALA 也直接承接 Lilian Weng 那篇影響巨大的「LLM Powered Autonomous Agents」;事實上那篇 blog 是論文第一個引用。對很多 builder 來說,那篇文塑造了早期 agents 的詞彙:memory、planning、tool use、reflection。
回看,2023 是靠類比發明的一年。研究者從認知科學、作業系統、資料庫、人類遺忘裡借概念。系統大多 training-free,包在 frozen model 外。領域有個直覺:如果模型能記得、反思、檢索,也許它就能開始像 agent 一樣運作。
但有個問題。
幾乎沒人真的知道怎麼衡量「好的 memory」。
有 demo、ablation、自訂評估、早期資料集。但沒有共享的尺。時序性仍是少數人的關注。像 MemoryBank、SCM 這類論文已經被 AI companion 與個人化用例拉過去,但更廣的領域還沒有對「什麼叫好的 long-term memory」達成共識。
2024:Memory 變得可量測
Five core long-term memory abilities (LongMemEval)
2024 年,這個領域的語氣變了。
Demo 已經不夠。Memory 得證明自己。
兩個 benchmark 特別重要:LoCoMo 與 LongMemEval。
LoCoMo 評估跨很多 session 的超長程對話記憶,含 personas、temporal event graphs、多模態互動。LongMemEval 把 memory 拆成能力:資訊抽取、multi-session reasoning、時序推理、知識更新、abstention。
這是真正的典範轉移。2023 年,memory 論文展示 agent 能做什麼。2024 年,benchmark 展示它們還有多糟。
另一個大轉變是:RAG 成了人們談論 memory 的主流方式之一。Retrieval 不再只是 retrieval。它變成 long-term memory——尤其當搭配 graph、summary、或結構化 store 時。HippoRAG 藉海馬索引理論把這層連結講明白。MemoRAG 從另一個角度做了類似的事。
同時,model-integrated memory 也開始出現。不再只是在 frozen model 外建 store,論文開始探索 parametric memory、explicit memory、episodic editing、long-context event segmentation。領域重新打開問題:memory 該活在模型外、模型內,還是兩者之間?
這一年,memory 不再只是小 context window 的補丁。到那時,context window 已經大很多了。更好的論點變成:就算你能塞更多進 context,你應該這麼做嗎?
Memory 不只變得比 long context 更可擴,也更結構化、更有選擇性,甚至可能更有意義。
2025:Memory 變成產品

到 2025,memory 不再只是研究原型。它成了產品類別。
Mem0、Zep、Letta、Supermemory、Cognee 和其他公司,不再只把 memory 當學術問題討論。他們把它包裝成基礎設施。Pitch 從「我們能記得」轉成「我們能記得得夠便宜、夠快、夠可靠,足以上 production」。
這是領域變得更亂、也更有趣的地方。
Benchmark 成了行銷。LoCoMo 分數變成 leaderboard 宣稱。Vendor 開始互槓對方的數字。Zep 發了 “Lies, Damn Lies & Statistics”。Mem0 和 Letta 也捲入 memory 該如何評估的辯論。Supermemory 還發了一篇 parody 文,嘲諷日益增長的 benchmark 勝利巡禮文體。
那很搞笑,但也是警告。一旦 benchmark 有了商業價值,人就會為它優化。有時那是進步。有時那是配更好圖表的 Goodhart’s law。
Substrate 之爭也更尖銳。很多學術工作偏向 graph、temporal knowledge graph、結構化 memory。但產品世界開始露出更務實的逆流:files、Markdown、search、compaction。
這就是 Claude Code 對我來說像頓悟的時刻。
Claude Code 不是靠出一套精巧的 vector-memory 系統贏得開發者。它用 filesystem。它用 search。它用 grep。它用幾乎尷尬地簡單的工具在 codebase 裡導航——和人們在提的 memory 架構比起來。
我記得讀 Charles Packer(Letta)在 Claude Code 成為日後的 reference point 之前,就在講為什麼 vector search 可能不是答案。我當時是懷疑的。感覺太簡單。Memory 總該要更 sophisticated 一點吧。
然後 Claude Code 成了人們真正在用、最成功的 agentic 工具之一。
那改變了我對 memory 的想法。也許「進階 memory」不總是關於最炫的 substrate。也許對 coding agent 而言,勝出的設計是保持可讀的那一種:files、search、summaries,加上夠強的模型去用它們。
2026:Benchmark 大爆發
2026 年,這個領域似乎意識到:如果 benchmark 很弱,建在上面的一切都會不穩。
這對 LLM 成立。對 agent harness 成立。對 memory 也成立。
光是上半年,我們就看到 benchmark 大爆發:MemoryArena、AMA-Bench、LongMemEval-V2、StructMemEval、ImplicitMemBench、EvolMem、PERMA、MemoryCD、VehicleMemBench、MemoryRewardBench,還有更多。
但重點不是 benchmark 的數量。而是它們想修什麼。
MemoryArena 問的是:agent 能不能在環境中行動時取得 memory,再用那些 memory 解決未來任務。那和從長對話裡回想事實不一樣。它更接近 agent 實際需要做的事。
StructMemEval 問 agent 能不能把 memory 組織成有用的結構。ImplicitMemBench 問模型是否表現出類似 non-declarative memory 的東西:priming、adaptation、procedural behavior。PERMA 與 MemoryCD 推向個人化與偏好隨時間演化。
領域基本上在說:LoCoMo 必要,但不足夠。
一個系統可以在 conversational recall 上看起來很好,卻在 memory 必須支援 action、structure、updating、personalization、或 implicit adaptation 時失敗。這是健康的不舒服。代表領域不再滿足於第一把好用的尺。
同時,memory 也變得更自主。論文現在探索的是學到的 memory 操作,而不只是手寫設計:何時 create、read、update、delete、merge、forget、或 promote 一條 memory。Memory 正從被動 store 走向 policy。
這帶來新問題:如果 memory 能改寫自己,它也能腐化自己。
所以 2026 也是 governance 與 safety 變得不可避免的一年。可寫入的持久 memory 是攻擊面。它會洩漏資訊。會保存過期信念。會讓一條壞 summary 毒害未來行為。會讓系統長期自信地錯下去。
給 agent memory 不再是難點。給它可信任的 memory 才是。
產業比我預期的更靠近我
就個人來說,這個領域也比我預期的更靠近我。
過去一年,做 agent memory 的人找過我,包括 Supermemory 的 Dhravya Shah、YourMemory 的 Sachit Mishra、Mem0 的 Taranjeet Singh、Letta 的 Sarah Wooders、Emergence AI 的 Marc Pickett,以及 Cognee 的 Hande。
我想謝謝他們來聯繫。我回得慢,部分是因為個人因素我登出了 X 和大部分社群媒體,但我很感謝那些對話與訊號——大概比我當時表現出來的更多。
我仍緊盯這個領域。Agent memory 仍是我最在意的主題之一,我也仍在想自己想為它做什麼樣的貢獻。
我認為我們在哪
如果要用一句話總結這條弧線,我會這樣說:
2023 是發明。
2024 是量測。
2025 是工業化。
2026 是詰問。
早期的問題是:我們能讓 agent 記得嗎?
現在的問題更難:我們能不能讓 agent 以可量測、可經濟化、可治理、且跨時間有用的方式累積經驗?
我覺得這個領域特別令人興奮,因為它坐在太多東西的交界:認知科學、資料庫、作業系統、retrieval、個人化、safety、產品設計、模型訓練。它亂得像年輕領域該有的亂。隱喻還在打架。Benchmark 還不穩。產品宣稱仍過於自信。學術系統常常太貴或太窄。實用工具有時看起來簡單到不該被認真對待——直到它們贏了。
但那也是它感覺還活著的原因。
Yann LeCun 曾把 AI 的進展比作 stochastic gradient descent。我喜歡用這張圖像看 agent memory。從外面看,領域很吵。人們 overfit 到 benchmark、從 graph 切到 files、從作業系統重新發現舊想法、從神經科學借東西、科學還沒定就出產品,然後再做新 benchmark 揭露產品漏了什麼。
看起來可能很隨機。
但也許,長期來說,我們仍在收斂。
我們只是還不知道那個 minimum 會長什麼樣子。
Originally published on Medium.
