optimal-transport

GOAT

You Need Better Attention Priors

GOAT将可学习位置先验编码进标准SDPA，在1.23B实验中改善长度外推；收益伴随内容维度取舍与有条件的sink稳定性保证。