Higress AI Gateway 架构图

Client Layer：内部 Agent、应用或前端服务

Higress AI Gateway：统一入口层，负责认证、路由、代理、限流、配额、缓存、安全、提示词增强

Large Model Providers：对接 OpenAI、Azure OpenAI、Claude、Qwen、DeepSeek 等模型服务

Platform Services：Redis、Prometheus/Grafana、MCP/tools 等支撑能力