RESEARCH LIBRARY
test-time-training
按标签浏览论文。
共 6 篇论文 · 按研读更新时间排序
MesaNet
MesaNet: Sequence Modeling by Locally Optimal Test-Time Training
MesaNet 用可分块并行的共轭梯度求解累计回归,改善固定状态的上下文学习与召回,并揭示平均困惑度与长距离信息利用之间的差异。
MoNe
MoNe: Modular Neural Memory for Efficient Long Context Inference
MoNe以逐层局部快权重更新为冻结Transformer写入长上下文,在受控任务外推至128K并降低显存与FLOPs,但依赖离线任务训练。
LLM-Memory
Memory for Large Language Models
以表示、更新动态和持续性三轴统一模型级记忆,细分写入与管理规则,并分析混合架构的召回、干扰和资源取舍。
TTT
Learning to (Learn at Test Time): RNNs with Expressive Hidden States
TTT 将隐藏状态设为小模型权重,以可学习的自监督任务更新序列记忆,并通过 mini-batch 与对偶形式改善长上下文建模和执行效率。
LaCT
Test-Time Training Done Right
LaCT用大块在线更新提高计算效率以扩展非线性记忆,并结合局部注意力处理图像、语言和视频;复杂检索仍落后全注意力。
FwPKM
Fast-weight Product Key Memory
FwPKM以稀疏在线键值更新补充长程情景记忆,重读改善检索,但吞吐与跨域记忆保留仍有限。
没有找到匹配论文,试试其他关键词或标签。