RESEARCH LIBRARY
residual-stream
按标签浏览论文。
共 2 篇论文 · 按研读更新时间排序
LexFrame
Lexical Reference Frames: Interpreting LM Residual Streams in Native Semantics
LexFrame 通过剩余网络和有限阶前缀交互读取隐藏状态,以系数差分改善归因、用词汇基实现更具选择性的干预。
SimpleHC
On the Design of Hyper-Connections: Simplification, Stability, and Scalability
SimpleHC 以学习读写门、恒等残差传递及跨四个子层共享状态访问,在 15B/30B MoE 上保持接近 mHC 的质量,并将最大测试宽度的训练时间额外开销降至 2.4%。
没有找到匹配论文,试试其他关键词或标签。