在网关做限流、配额与鉴权，是保护模型服务的常规手段。然而限流只约束「合法请求的速率」，并不能替代机房出口的带宽规划：突发重试、大响应流式输出、以及攻击流量，仍可能打满链路。
规划出口时，应区分控制面与数据面峰值，明确 DDoS 清洗接入点，并给流式响应预留持续带宽而非只看平均值。网关扩容与带宽扩容最好用同一套监控指标驱动，避免一边限流一边链路拥塞。
多区域部署时，还要计算跨区回源是否会二次消耗出口。南方数据提供 IP Transit 与机房网络配套，可参与出口与防护方案讨论。欢迎就具体流量模型交流。