token-selection

PartRep

PARTREP: Learning What to Repeat for Decoder-only LLMs

PartRep 用高 NLL 监督训练中间层门控，以选择性重复保留接近完整重复的平均收益，并降低相对完整重复的缓存与预填充成本。