PyTorch 2.15中的MPS

PyTorch 2.15 正式发布，Mac 上的模型推理迎来一轮实质性提速。Hugging Face 的 PyTorch 团队在官方博客中披露，这一版本针对 MPS（Metal Performance Shaders，苹果GPU加速后端）做了大量底层优化：FP8 数据类型首次登陆 Mac，MoE（混合专家）模型解码速度比 2.14 版本快 5 到 6.5 倍，视频生成的内存占用从 270 GiB 骤降到约 8 GiB。对于用 Mac 跑本地大模型、ComfyUI 做图生视频的开发者来说，这是一次不用换硬件就能感知到的升级。 具体来看，团队的做法是拿 Hugging Face Hub 上的真实模型逐项测试，找出 MPS 后端的短板，再回到 PyTorch 上游修复，越来越多地用专用 Metal 内核替换此前的 MPSGraph 实现。效果最直观的是 MoE 模型：在 M3 Ultra 上开启 torch.compile 后，Qwen3.6-35B-A3B 的生成速度从每秒 9.4 个 token 提升到 61.3 个，LFM2.5-8B-A1B 从 23.6 提升到 123.6。稠密模型同样受益，单行线性层改用专用矩阵向量内核，词表上的 softmax 快了约 8 倍。视频方面，Wan2.2 的分块 VAE 解码此前会把驱动内存推到 270 GiB，现在峰值只有 8 GiB 左右，意味着普通配置的 Mac 也能跑通视频生成流程。此外，2.14 上 Qwen-Image-2.1 的 VAE 编码器会静默损坏图像、导致 ComfyUI 的图片编辑工作流失效，这次通过修正 padding 一并解决，编解码往返的 PSNR 从 10.06 dB 恢复到 29.95 dB，与 CPU 结果一致。 其他改进还包括：复数 LU 分解与三角求解、小矩阵求逆、QR 分解等线性代数运算更多跑在 GPU 上；卷积、dropout、插值反向传播等训练相关算子获得更快的 Metal 内核；Python 侧新增公开的 MPS streams 和更可靠的事件计时。需要留意的是门槛变化——MPS 现在要求 macOS 15 及以上，PyTorch 2.15 要求 Python 3.11 及以上，系统过旧或没有 Metal GPU 时，可用性检查会直接说明原因。团队同时预告 2.16 将把 attention 完全放到 Metal 上，并继续推进 MPSGraph 到 Metal 的迁移。