AWS 机器学习博客发布指南,介绍如何在 Amazon ECS 上部署客户自运营的 LiteLLM 网关,连接 Amazon Bedrock 上的 OpenAI 模型,并配置 Codex 通过网关的 Responses API 路由请求,实现集中式身份、预算、速率限制和遥测管理。
AWS 发布在 ECS 上部署 LiteLLM 网关以接入 Codex 的完整方案