recurrent-model

KronLSTM

Kronecker Delta Rule for Long Context Linear Attention

KronLSTM 用键值双重定向的标量误差修正矩阵记忆，在相同预训练预算下提升平均语言与自然文本检索表现，但重复噪声检索和32k绝对准确率仍有限。