sorting

Sorting

Transformers Learn Two Competing Sorting Algorithms, and Only One Length-Generalizes

同一两层单头 Transformer 会因初始化学到不同排序路径；小间隔分工与查询侧提示使两阶段路径更能长度泛化，而最小值任务和多头模型改变这一关系。