容量说明
更新时间 2026-04-21 15:46:03
最近更新时间: 2026-04-21 15:46:03
本章节介绍云原生API网关和AI网关两个产品系列下不同规格的容量阈值及QPS性能参考
API网关
容量阈值
以下为不同网关规格下的容量阈值。当网关容量指标处于警戒水位以下时,可以得到完整的ELB保障。对于核心业务,建议将网关容量指标控制在安全水位以下,从而获得更好的稳定性。
安全水位:能够在突发流量增长至双倍的情况下,依然确保网关系统维持高吞吐量和低延迟性能。
警戒水位:当水位达到警戒线以上时,网关的延迟可能会增加,并且在突发流量下可能存在稳定性风险。
基础版网关,仅限测试场景使用。请确保线上业务使用部署了多个节点的网关规格。
网关规格 | 基础版 | 标准版-1 | 标准版-2 | 标准版-3 | 企业版-1 | 企业版-2 | 企业版-3 | 铂金版-1 | 铂金版-2 | 铂金版-3 | 铂金版-4 | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 客户端连接数 | 安全水位 | 14000 | 28000 | 56000 | 112000 | 224000 | 448000 | 660000 | 880000 | 1760000 | 2640000 | 3080000 |
| 警戒水位 | 28000 | 56000 | 112000 | 224000 | 448000 | 896000 | 1320000 | 1760000 | 3520000 | 5280000 | 6160000 | |
| HTTPS每秒新建连接数 | 安全水位 | 500 | 1000 | 2000 | 4000 | 8000 | 16000 | 24000 | 32000 | 64000 | 96000 | 120000 |
| 警戒水位 | 1000 | 2000 | 4000 | 8000 | 16000 | 32000 | 48000 | 64000 | 128000 | 192000 | 240000 | |
| CPU使用率 | 安全水位 | 30% | 30% | 30% | 30% | 30% | 30% | 30% | 30% | 30% | 30% | 30% |
| 警戒水位 | 60% | 60% | 60% | 60% | 60% | 60% | 60% | 60% | 60% | 60% | 60% | |
| 内存使用率 | 安全水位 | 75% | 75% | 75% | 75% | 75% | 75% | 75% | 75% | 75% | 75% | 75% |
| 警戒水位 | 75% | 75% | 75% | 75% | 75% | 75% | 75% | 75% | 75% | 75% | 75% | |
QPS性能参考
网关QPS吞吐受多种因素影响,如应答大小、是否开启HTTPS、是否开启gzip等。下表是网关处于30%CPU水位的QPS悲观值(最差情况下)参考。
说明
HTTPS新建连接会占用较多CPU资源。对于瞬时大量HTTPS并发连接的业务场景,请参考下表中HTTPS短连接的数据评估网关容量。
网关规格 | 基础版 | 标准版-1 | 标准版-2 | 标准版-3 | 企业版-1 | 企业版-2 | 企业版-3 | 铂金版-1 | 铂金版-2 | 铂金版-3 | 铂金版-4 | |||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 连接类型 | 应答字节数(KBytes) | 是否启用Https | 是否启用gzip | CPU处于安全水位(30%)的QPS参考 | ||||||||||
| 短连接 | 1 | 否 | 否 | 1900 | 3800 | 7600 | 15200 | 30400 | 60800 | 91200 | 121600 | 243200 | 364800 | 456000 |
| 是 | 否 | 600 | 1200 | 2400 | 4800 | 9600 | 19200 | 28800 | 38400 | 76800 | 115200 | 144000 | ||
| 长连接 | 1 | 否 | 否 | 2500 | 5000 | 10000 | 20000 | 40000 | 80000 | 120000 | 160000 | 320000 | 480000 | 600000 |
| 是 | 否 | 2250 | 4500 | 9000 | 18000 | 36000 | 72000 | 108000 | 144000 | 288000 | 432000 | 540000 | ||
| 10 | 否 | 否 | 2000 | 4000 | 8000 | 16000 | 32000 | 64000 | 96000 | 128000 | 256000 | 384000 | 480000 | |
| 是 | 否 | 1900 | 3800 | 7600 | 15200 | 30400 | 60800 | 91200 | 121600 | 243200 | 364800 | 456000 | ||
AI网关
对于AI 网关实例,根据不同实例规格的QPS、客户端连接数的性能差异,提供不同的实例规格。
以下是不同网关实例规格下各项参数详情(CPU处于安全水位(30%)时的参考)。
| 网关规格 | QPS | 最大客户端连接数 | 最大HTTPS每秒新建连接数 |
|---|---|---|---|
| 标准版-1 | 1600 | 21000 | 700 |
| 标准版-2 | 3200 | 42000 | 1400 |
| 标准版-3 | 6400 | 84000 | 2800 |
| 企业版-1 | 12800 | 168000 | 5600 |
| 企业版-2 | 25600 | 336000 | 11200 |
| 企业版-3 | 38400 | 504000 | 16800 |
| 铂金版-1 | 51200 | 672000 | 22400 |
| 铂金版-2 | 102400 | 1344000 | 44800 |
| 铂金版-3 | 153600 | 2016000 | 67200 |
| 铂金版-4 | 192000 | 2520000 | 84000 |