gradient-compression

LoGRA

LoGRA: Scaling LLM Reinforcement Learning with Low-Rank Gradient Sketches

LoGRA 直接累计低秩梯度并用预测 KL 控制步长，使 7B 强化学习平均训练显存降低 45.7%，且在八张 H100 上训练密集 Adam 无法容纳的 27B 模型。