RESEARCH LIBRARY
expressivity
按标签浏览论文。
共 5 篇论文 · 按研读更新时间排序
DeltaFormer
Understanding Transformer from the Perspective of Associative Memory
以关联记忆的检索信噪比与残差写入统一分析 Attention 和 FFN，并以 DeltaFormer 的状态追踪构造及合成实验展示核与更新规则的作用。
SFDA
Semidirect Fourier Delta Attention: Phase-Controlled Delta Memory with Constructive Chunk-WY Kernels
SFDA 以相位旋转扩展 Delta 记忆并给出精确分块 WY 构造；计数实验显示外推边界，研读澄清实化秩与广义模板的适用范围。
Transformer-Topology
The Topological Trouble With Transformers
从计算图解释固定深度中的状态上移与浅层可达性限制，按循环轴和更新粒度分类，并讨论增强状态更新与高效训练的取舍。
Hybrid-Hierarchy
A Provable Expressiveness Hierarchy in Hybrid Linear-Full Attention
以通信复杂度分析混合注意力的顺序复合下界，区分全注意力访问轮数与循环状态容量，并标注 v1 的证明及参数范围问题。
CKDA
Complex KDA: Understanding and Enhancing the Expressivity of Kimi Delta Attention
CKDA 以有符号通道门与扩展更新率实现稳定旋转，增强状态追踪与周期外推，语言建模与匹配 KDA 基本持平。
没有找到匹配论文，试试其他关键词或标签。