RESEARCH LIBRARY

online-optimization

按标签浏览论文。

共 2 篇论文 · 按研读更新时间排序

2605.13473v1 · r1

OSDN

OSDN: Improving Delta Rule with Provable Online Preconditioning in Linear Attention

OSDN以在线对角预条件缩放写入key，改善340M受控召回；1.3B局部残差收缩更强，但未转化为重复召回提升。

2504.05646v2 · r1

Lattice: Learning to Efficiently Compress the Memory

Lattice 通过逐槽正交更新与归一化提高固定状态的记忆效率，分块近似实现训练并行，但质量和吞吐量收益需按配置分别解读。