AWS 官方博客介绍 Amazon SageMaker AI 推理推荐中的并发扫描能力：通过 CreateAIBenchmarkJob API 逐级提升并发请求，测量吞吐与延迟曲线，定位端点饱和点，并可用 max-concurrency-under-sla 配方按 SLA 自动搜索最优并发。文章以 NVIDIA Nem
AWS 详解 SageMaker AI 并发扫描：为生成式 AI 端点做容量规划