RESEARCH LIBRARY
memorization
按标签浏览论文。
共 3 篇论文 · 按研读更新时间排序
ICL-Data
Data Distributional Properties Drive Emergent In-Context Learning in Transformers
局部重复、类别稀有性和动态映射促进上下文学习;Zipf 分布可使其与常见类参数记忆共存,但完整输出评估揭示选择限制。
SSM-Gating
On the Importance of Gating: Memorization vs. In-Context Learning in State Space Models
门控使 SSM 的参数记忆与上下文检索产生优化竞争,并在保留远处信号与抑制长上下文干扰之间形成取舍。
CL-Composition
Continual Learning Mechanisms Compose for Long-Horizon Memorization
生成式回放与合并LoRA呈现显著协同,延长100任务下的记忆寿命,但仍无法避免旧记忆与通用能力退化。
没有找到匹配论文,试试其他关键词或标签。