long-context
按标签浏览论文。
LengthGen
Understanding and Improving Length Generalization in Recurrent Models
通过初态干预扩展训练状态覆盖，以低预算后训练缓解循环模型的长度外失效，并区分稳定困惑度与远距离任务能力。
HashAttention
HashAttention: Semantic Sparsity for Faster Inference
HashAttention 用学习式二进制签名提高重要 token 召回，以紧凑辅助索引减少 KV 访问；研读区分质量与加速口径并修正理论公式。
MS-GLA
MS-GLA: Multi-Scale Gated Linear Attention for Addressing Representational Bottlenecks via Multi-Temporal Resolution
通过多尺度池化与因果融合重分配固定状态预算，细粗分支组合改善综合表现；训练记录与长文评测协议仍需澄清。
CLM
Context Language Models
CLM 将实时上下文设为模型可编辑文件，通过技能演化、强化学习和近似后缀缓存复用改善长任务的性能与计算成本。
GOAT
You Need Better Attention Priors
GOAT将可学习位置先验编码进标准SDPA，在1.23B实验中改善长度外推；收益伴随内容维度取舍与有条件的sink稳定性保证。
HybridPosition
Mechanics of Long-Context Hybrid Models Part 1.1: From Hybrid Attention to Hybrid Position
混合位置分工解释外推与长训练的差异；扩窗与LongCE改善SWA，SWLA结合NoPE尺度修正增强LA外推。
NL
Nested Learning: The Illusion of Deep Learning Architectures
NL 将架构和优化器统一为多时间尺度的联想记忆，Hope 结合自指更新与 CMS 改善持续学习，但精确召回与计算成本仍有取舍。
Triadic
Triadic Linear Attention: Three-Dimensional Recurrent States for Long-Context Sequence Modeling
Triadic以双key乘积地址低参数扩展三维递归状态，改善长文预测与召回；8倍状态约增加30%单块训练耗时，最长精确检索仍有缺口。
MoNe
MoNe: Modular Neural Memory for Efficient Long Context Inference
MoNe以逐层局部快权重更新为冻结Transformer写入长上下文，在受控任务外推至128K并降低显存与FLOPs，但依赖离线任务训练。
Diffuser
Diffuser: Efficient Transformers with Multi-hop Attention Diffusion for Long Sequences
用多跳扩散复用稀疏注意力权重，改善长序列建模；显存与时间存在取舍，LRA原报均值有算术差异。
Nectar
Nectar: Neural Estimation of Cached-Token Attention via Regression
Nectar 以输出与归一化量双网络压缩静态文档注意力，随机问题接近完整缓存，但分布外问题和离线训练成本限制适用范围。
DSLA
On-the-Fly Adaptive Distillation of Transformer to Dual-State Linear Attention
DSLA以历史与近期双状态配合按敏感度逐层转换，在指定服务回放中实现2.29倍加速，并呈现任务相关的质量取舍。
Q-Delta
Q-Delta: Beyond Key-Value Associative State Evolution
Q-Delta 将 query 反馈引入 delta 写入，改善平均语言评测和合成检索；真实召回收益有限，v1 分块公式存在需修正之处。
ResidualKV
ResidualKV: Residual-Based KV Cache Compression for Efficient Long-Context Inference
以全局参考和量化残差压缩 KV，结合稀疏按需恢复兼顾质量与存储；v2 部分实验预算口径仍需澄清。
FRAC
Fractional State Space Transition for Long Sequence Modeling
FRAC 以分数阶理论指导几何时间尺度库和选择性读写，改善固定状态模型的长上下文表现；实验写入规则采用稳定化改动。
LLM-Memory
Memory for Large Language Models
以表示、更新动态和持续性三轴统一模型级记忆，细分写入与管理规则，并分析混合架构的召回、干扰和资源取舍。
CyFA
CyFA: Linear Sequence Modeling with Relative-Time-Partitioned Memory
通过可学习时钟组织相对时间槽，并用精确坐标变换实现两遍标量递推，在匹配主状态预算下改善召回。
RIS-Kernel
RIS-Kernel: A Model-Agnostic Architecture for Long-Context LLM Inference via Sparse Attention
RIS-Kernel以随机与局部连接并集及统一softmax实现CPU长上下文推理；复杂度、统计强度及32k图表一致性限制其结论。
Trace-as-State
Trace as State: Reasoning Traces as Conditional States for Long-Context Transformers
将首轮推理轨迹前置到长上下文重读，在多数指标上优于同轨迹后置；最强收益来自图父节点任务，并伴随额外推理成本。
SSM-Gating
On the Importance of Gating: Memorization vs. In-Context Learning in State Space Models
门控使 SSM 的参数记忆与上下文检索产生优化竞争，并在保留远处信号与抑制长上下文干扰之间形成取舍。
没有找到匹配论文，试试其他关键词或标签。