retrieval
按标签浏览论文。
DDN
Dual DeltaNet: Value-Side Memory Reorganization for Linear Attention
DDN 在 KDA 后加入值侧地址响应纠错,以双侧 WY 和秩 2 更新保持固定状态,显著改善 1B NIAH 平均召回,同时增加推理延迟。
MLPMemory
MLP Memory: A Retriever-Pretrained Memory for Large Language Models
把 kNN 检索词分布蒸馏进独立 MLP,以概率融合增强语言模型知识利用并降低在线检索延迟。
MemGPT
MemGPT: Towards LLMs as Operating Systems
MemGPT 以虚拟内存式分层存储、队列驱逐和心跳函数调用管理固定窗口上下文;在历史回忆、文档问答与嵌套检索中取得提升,效果取决于底座模型持续调用工具的能力。
Muir
Muir: Linear Attention with Sensitivity-Allocated Gating and Matched-Filter Readout
Muir reallocates low-rank gate capacity by state sensitivity, adds matched-filter readout to reduce interference and write-time erasure, and uses a boundary-pivoted TPU chunk kernel; experiments show strong language modeling and multi-hop retrieval with static/dynamic readout trade-offs.
ContextLength
Context Length Alone Hurts LLM Performance Despite Perfect Retrieval
长输入即使保留可逐字找回的证据,解题准确率仍会下降;空白与掩码控制支持长度相关退化,先检索再短提示可缓解部分任务。
NoteBank
History Replays Itself: Unleashing Long-Context Capability in Linear Attention
NoteBank 用查询未知时的稀疏文本存档与原生回放恢复冻结骨干的远距检索;自然任务收益需区分读出适配、状态重置及实际系统开销。
DFM
Deep Fusion Memory: A Chunk-Level Parametric Memory for Large Language Models
DFM以32-token块级检索目标训练因果记忆预测器,在冻结模型中间层门控融合,降低离线目标构建工作量并提高问答与领域适配平均分。
CPLM
Copy-Paste Language Models
CPLM在常规语言模型头之外加入可训练的上下文复制指针,通过额外梯度路径改善预训练,并使滑窗模型以较小缓存获得长距检索能力。
GenMem
GenMem: Generative Symbolic Memory for Self-Evolving Harness
GenMem以生成式SID统一经验记忆读写并保持地址稳定,完整训练系统取得收益,但组合泛化与评测划分仍需补强。
NAtS-L
Neural Attention Search Linear: Towards Adaptive Token-Level Hybrid Attention Models
NAtS-L按64-token块选择显式KV或GDN状态,并以query条件权重融合;Hybrid提升检索和长输入效率,但仍保留未受硬预算约束的softmax项。
ExplicitLM
ExplicitLM: Decoupling Knowledge from Parameters via Explicit Memory Banks
通过可读 token 记忆和两阶段可训练检索改善预置事实召回,知识编辑效果及同知识条件对比仍待验证。
SSM-Gating
On the Importance of Gating: Memorization vs. In-Context Learning in State Space Models
门控使 SSM 的参数记忆与上下文检索产生优化竞争,并在保留远处信号与抑制长上下文干扰之间形成取舍。
JitMem
Just-in-Time Memory: Learning to Curate Task-Adaptive Memory for LLM Agents
JitMem 保留原始轨迹,在当前任务已知时整理记忆,并以同任务奖励训练整理器;多个基准受益,但总成本和收益范围仍需区分。
LightMem
Lightweight LLM Agent Memory with Small Language Models
LightMem 用小模型管理在线检索与写入、离线整合共享知识,在所测基准改善记忆质量与延迟,但实验协议和维护成本仍有边界。
CCQ
Don't Read Everything: A Curvature-Conditioned Query for Linear Attention
CCQ 用历史 key 协方差收缩 query,改善多项检索结果;推理关闭修正仍保留多数收益,机制与解码成本需分开评估。
没有找到匹配论文,试试其他关键词或标签。