AWS 团队发布论文《Priming: Hybrid state space models from pre-trained Transformers》，提出 priming 方法，利用预训练 Transformer 权重作为起点构建混合状态空间架构，将此类架构的预训练成本降低逾 99%。团队同时开源 8B 与 32B
AWS 提出 priming 方法：复用预训练权重改造混合状态空间架构