限流

限流控制某一范围内允许进入或发出的工作速率，用于保护容量、实现配额或控制对下游的请求节奏。

范围与算法

范围可以按用户、租户、接口或下游依赖划分。固定窗口、滑动窗口、令牌桶等算法对突发流量、平滑性和存储成本有不同取舍。

与并发限制

每秒限额不能直接限制慢请求同时占用的资源；并发上限也不能保证每秒启动量。实践中可能同时需要速率、并发、队列长度和超时约束。

多实例计数需要协调范围和原子更新，进程内配额相加可能超出全局上限。拒绝、延迟或排队应采用明确协议，并评估计数服务故障时的策略。

参考资料

• Azure 限流模式