PyTorch 2.15 为 MPS 后端加入 FP8 并提速 LLM 解码
热点事件持续更新
PyTorch 2.15 为 MPS 后端加入 FP8 并提速 LLM 解码
1 篇报道1 个报道来源14 小时前更新
先了解这件事
AI 综述
Hugging Face 发布博客介绍 PyTorch 2.15 的 MPS 后端改进:新增 FP8 支持,并称 MoE 模型解码速度比 2.14 快 5–6.5 倍。以 Qwen3.6-35B-A3B 在 M3 Ultra 上为例,吞吐从 9.4 tokens/s 提升到 61.3 tokens/s。 这些改进面向在 Mac 上运行模型、以 MPS 为主要加速工具的用户。使用条件为:MPS 需 macOS 15 或更高版本,PyTorch 2.15 需 Python 3.11 或更高版本。 博客同时指出一项限制:logspace 尚不支持多元素的整数或布尔输出。
AI 根据报道生成 · 3 小时前更新
最新进展10月20日 08:00
PyTorch 2.15 为 MPS 带来 FP8 与更快的 LLM 解码报道时间线
沿着报道,了解事件的不同侧面。
10月20日
- Hugging Face BlogPyTorch 2.15 为 MPS 带来 FP8 与更快的 LLM 解码
PyTorch 2.15 在 MPS 后端加入 FP8 支持,并让 MoE 模型解码速度比 2.14 快 5–6.5 倍,Qwen3.6-35B-A3B 在 M3 Ultra 上从 9.4 tokens/s 提升到 61.3 tokens/s。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 710月20日 20:00
- 近 24 小时变化
- –
02468
20:0021:0022:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。