AWS 详解 i14 Laplace 3B 线性注意力模型在 Trainium2 上的训练与部署
AWS 发布技术文章，介绍 i14 如何借助 TorchNeuron Native 在 Trainium2 上训练并部署 Laplace 3B 线性注意力模型。该模型以 GLA 替代 softmax 注意力，每序列循环状态固定为 29.5 MB，不随上下文增长；单台 trn2.48xlarge 训练吞吐约 12 万 t
AWS 详解 i14 Laplace 3B 线性注意力模型在 Trainium2 上的训练与部署