RESEARCH LIBRARY
continual-learning
按标签浏览论文。
共 5 篇论文 · 按研读更新时间排序
Palimpsa
Learning to Remember, Learn, and Forget in Attention-Based Models
Palimpsa 用逐状态精度调节记忆可塑性,并通过折扣旧证据保持适应能力;微调迁移改善召回与部分长上下文表现,但增加内核成本并带来任务取舍。
Cortex
Cortex: Consolidating Context into Parametric Memory
Cortex 用前瞻性查询和有上下文教师蒸馏,将经验写入可合并的 FFN 更新;50 次连续事实编辑恢复 88.9% 的上下文增益并保留 99.8% 的所测非目标表现。
NL
Nested Learning: The Illusion of Deep Learning Architectures
NL 将架构和优化器统一为多时间尺度的联想记忆,Hope 结合自指更新与 CMS 改善持续学习,但精确召回与计算成本仍有取舍。
Sleep
Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories
Sleep 用更新前自蒸馏与慢层专家巩固记忆,再通过 Dreaming 改善适配,收益受任务协议与容量成本限制。
CL-Composition
Continual Learning Mechanisms Compose for Long-Horizon Memorization
生成式回放与合并LoRA呈现显著协同,延长100任务下的记忆寿命,但仍无法避免旧记忆与通用能力退化。
没有找到匹配论文,试试其他关键词或标签。