AWS发布TTS自动扩缩容目标推导教程

AWS Machine Learning Blog 发布教程，介绍如何为 Amazon SageMaker AI 上自托管的 TTS 端点推导自动扩缩容目标，不再靠猜测。方案将 8200 万参数的 Kokoro-82M 以自定义容器部署在实时端点上，用实测的单实例最高并发 Q_max 和一次扩容端到端耗时 T_total，通过算术推导出扩容阈值、缩容阈值和两个冷却时间。 教程要求具备可创建 IAM 角色、S3 桶、ECR 仓库和 SageMaker AI 资源的 AWS 账户，并在运行扩容测量前为 ml.g5.xlarge 预留至少一个高于基线的配额槽位。示例容器固定了较早版本的 PyTorch，存在已知漏洞 PYSEC-2026-2286（在 torch 2.10.0 中修复），教程建议在非概念验证用途前审查并升级该版本。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。