optimizers

CLVR

Linear Attention Architectures: Mechanisms, Trade-offs, and Cross-Layer Routing

统一比较线性注意力的记忆控制与训练权衡，CLVR 将写入值投影至共享残差流，在匹配单次实验中小幅降低验证损失。