苹果演示用 MLX 与 RDMA 在 Mac Studio 集群本地运行 816B 大模型
苹果机器学习研究团队发布技术文章,介绍如何用最新版 MLX 在 Mac Studio 上本地运行近万亿参数的 Muse Spark Open 模型。文章给出单机与多机流水线、张量并行的基准数据,并说明 macOS 26.2 新增的 Thunderbolt 5 RDMA 驱动与 MLX 新增通信集合如何支撑多机推理。
苹果演示用 MLX 与 RDMA 在 Mac Studio 集群本地运行 816B 大模型