phase-aware-attention

Orthros

Orthros: Phase-Aware Heterogeneous Attention for Efficient Transformers

Orthros 用局部基础流建立完整 KV、按需全局输出查询降低预填充成本，保留召回能力，但增加训练计算且长输出时收益减弱。