RESEARCH LIBRARY
learning-theory
按标签浏览论文。
共 2 篇论文 · 按研读更新时间排序
Linear-ICL
What can linear attention learn from nonlinear teachers in-context?
简化线性注意力在高维无正则极限下仅利用教师的一阶 Hermite 分量，其余分量形成等效噪声；研读说明了图1的归一化问题。
RL-after-NTP
How Reinforcement Learning After Next-Token Prediction Facilitates Learning
稀有正确长推理示范在预训练中先被学会，RL再通过奖励筛选提高其有效占比，使贪心输出变长并提升准确率。
没有找到匹配论文，试试其他关键词或标签。