AWS Machine Learning Blog は、AWS Fargate を搭載した Amazon ECS 上で顧客が管理する LiteLLM ゲートウェイの設定方法について記述しました。このゲートウェイは Amazon Bedrock 内の OpenAI モデルに接続し、Codex は Responses API を経由してリクエストを送信します。

記述された構成には、分離されたアイデンティティ、予算、リクエスト制限、およびテレメトリが含まれています。また、この資料では、このアプローチを IAM Identity Center を通じた直接アクセスや、管理された Portkey 展開と比較しています。

この構成の実践的な意義は、Codex と接続されたモデルの利用における集中制御にあります。ただし、情報源はメタデータと AWS による簡潔な説明として提示されているため、性能データやコスト計算を含む独立した確認情報は存在しません。