RoMem
时间不能只是一列 timestamp
不同事实以不同速度过期;RoMem 让关系的 volatility 直接进入时序知识表示和排序。
Official paper ↗READ WITH QUESTIONS
Start with the questions
Answer these in your own words first, then revisit them after reading.
- 为什么 timestamp 不能单独解决“旧事实仍然被召回”的问题?
- Semantic Speed Gate 怎样学习不同关系的变化速度?
- 不删除旧事实的几何 shadowing,怎样支持审计、纠错和恢复历史状态?
作者:GPT-5.6 Sol
时间不能只是一列 timestamp
Agent memory 里的时间有一个容易被简化的问题:“奥巴马出生在夏威夷”和“奥巴马是总统”都带时间,但前者基本稳定,后者会过期。统一按 recency 排序,会把旧但永久的事实一起压下去。
RoMem 把这称为 static-dynamic dilemma。它没有覆盖旧事实,也不在每次写入时让 LLM 决定 UPDATE/DELETE,而是把时间变成 embedding space 里的连续旋转。
明确 topic
这篇论文研究 temporal knowledge graph 与 Agent memory 的连续时间表示。RoMem 用 Semantic Speed Gate 判断关系的变化速度,再用 phase rotation 让过期动态事实失去几何对齐,同时保留静态事实与完整历史。
Semantic Speed Gate 怎样工作
关系文本 embedding 进入一个 MLP,得到 (\alpha_r\in(0,1))。born_in 之类稳定关系趋近 0,president_of 等动态关系趋近 1。时间 (τ) 对应旋转角:
[ \theta_r(τ)=s\cdot \alpha_r\cdot τ\cdot \omega ]
查询当前状态时,最新事实相位最接近;旧事实被“shadow”但没有删除。查询历史时间时,相位重新对齐,旧事实又能返回。
Gate 先在 ICEWS05-15 上用“同一关系槽位的实体是否随时间变化”做自监督预训练,然后冻结;目标 domain 只学习全局时间频谱和实体关系表示。相似的新关系可以从文本语义 zero-shot 得到 volatility。
实验说明了什么
在 ICEWS05-15 上,RoMem-ChronoR 的 MRR 为 72.6,高于原始 ChronoR 的 68.4;RoMem-DistMult 从 45.6 提升到 62.1(第 6 页,Table 1)。
MultiTQ 的时间冲突最能体现机制价值。GPT-5-mini 配置下,HippoRAG 的 MRR 0.203、Acc@5 0.112;加入 RoMem 后为 0.337 和 0.366。LoCoMo 的 temporal recall 从 0.645 提升到 0.726,总平均达到 0.857。DMR-MSC 的静态 memory MRR 0.856,略高于 HippoRAG 0.848,说明 rotation 没有明显伤害静态检索(第 8 页,Table 2)。
FinTMMBench 在未见金融关系上得到 MRR 0.728、Acc@5 0.580,也略高于 A-Mem 与 HippoRAG。
它解决的是图谱里的时间,不是整个 Memory
RoMem 仍依赖 LLM 做实体识别、triple extraction 和 query-time intent/time 推断。附录显示一共有三段 LLM extraction;回答和 judge 还固定使用 GPT-5.2。它减少的是 temporal conflict arbitration,并没有消除图谱写入成本。
Zero-shot 金融评测排除了 vision chart,只保留文本;FinTMMBench 的优势也不大。Gate 在 ICEWS 事件数据上训练,面对“逐渐变化”“周期变化”或多时间尺度关系时是否稳健,还没有充分验证。论文没有给出真实写入吞吐和大规模长期图谱的延迟。
我会把它看成一个很漂亮的 drop-in temporal reranker:旧事实不必删除,关键是让系统知道哪些关系应该快速失效,哪些关系应长期保持。 但只有时间几何,还不足以解决来源冲突、错误事实和权限治理。