context-ranking

SAS

SAS: Simple Attention Sparsification via End-to-End Optimization of Context Ranking

SAS 通过训练期归一化 log-gate 用语言模型损失学习块排序，改善低预算推理，但超长检索与路由成本仍有限制。