RESEARCH LIBRARY
cross-entropy
按标签浏览论文。
共 1 篇论文 · 按研读更新时间排序
SoftmaxFix
A Fix for Softmax and Cross-Entropy
通过重排 softmax 和交叉熵的浮点计算，保留高置信度与近教师蒸馏时的微小梯度，并消除所测任务中的 Slingshot 尖峰和学生漂移。
没有找到匹配论文，试试其他关键词或标签。
按标签浏览论文。
A Fix for Softmax and Cross-Entropy
通过重排 softmax 和交叉熵的浮点计算，保留高置信度与近教师蒸馏时的微小梯度，并消除所测任务中的 Slingshot 尖峰和学生漂移。
没有找到匹配论文，试试其他关键词或标签。