RESEARCH LIBRARY
vector-quantization
按标签浏览论文。
共 2 篇论文 · 按研读更新时间排序
NCP-ArchPreview
NCP-ArchPreview Technical Report: Moving towards Latent Space Language Models through Next Concept Prediction
NCP-ArchPreview 在 8.94B/5.73T 规模联合预测 token 与概念,改善预训练效率并提供 17M 适配接口;中期训练的下游增益收窄且依赖任务。
ConceptLM
Next Concept Prediction in Discrete Latent Space Leads to Stronger Language Models
ConceptLM以分段码本和下一概念预测增强语言建模,小模型预训练收益较明显,8B增益有限;研读核对了公式与表格中的不一致。
没有找到匹配论文,试试其他关键词或标签。