RESEARCH LIBRARY
hashing
按标签浏览论文。
共 4 篇论文 · 按研读更新时间排序
LowBitNGram
Low-Bit N-Gram Embeddings for Language Models
逐行缩放的4-bit n-gram表节省约75%表内存并保留99%以上原表收益，2-bit扩表还能以约半数内存超过原表。
MultiHashFormer
MultiHashFormer: Hash-based Generative Language Models
MultiHashFormer 以唯一多哈希签名和级联解码支持自回归生成，在 1B/3B 多数任务改善表现，并在 32K 到 48K 扩词表时不增加模型参数。
BinaryPC
Training-Free Hashing-Based Attention via Binary Principal Components
BinaryPC 以 64 位二值重构和高误差 token 保护实现免训练稀疏检索，改善长上下文解码效率，同时保留完整 KV 缓存。
HashAttention
HashAttention: Semantic Sparsity for Faster Inference
HashAttention 用学习式二进制签名提高重要 token 召回，以紧凑辅助索引减少 KV 访问；研读区分质量与加速口径并修正理论公式。
没有找到匹配论文，试试其他关键词或标签。