RESEARCH LIBRARY

scaling-laws

按标签浏览论文。

共 2 篇论文 · 按研读更新时间排序

2609.12303v1 · r1

EndOfToken

Breaking the Token Ceiling: Distilling Smaller, Stronger Byte Models

EOT 用显式 token 边界精确转换教师分布；字节学生后期改善更快，4.0 个百分点的领先属于缩放律渐近外推，需结合验证集敏感性与推理成本解读。

2604.12946v1 · r1

Parcae: Scaling Laws For Stable Looped Language Models

Parcae 通过约束循环状态传递与改进深度采样稳定训练，并发现循环与数据协同增长、推理收益趋于饱和的经验缩放律。