vocabulary-expansion

MultiHashFormer

MultiHashFormer: Hash-based Generative Language Models

MultiHashFormer 以唯一多哈希签名和级联解码支持自回归生成，在 1B/3B 多数任务改善表现，并在 32K 到 48K 扩词表时不增加模型参数。