ITPub博客

首页 > IT职业 > IT生活 > Go限制请求次数——简陋实现

Go限制请求次数——简陋实现

IT生活 作者:netfan 时间:2021-09-09 09:35:50 0 删除 编辑

前些日子写的限制请求次数,结果用的时候发现可以更简单实现。

需求:抓数据的网站限定1秒只能有10次请求

由于发起并发请求几乎是0耗时的,所以可以选择同时发完所有的请求,然后等到下一个周期。这样控制周期内请求次数只需要一个ticker就能搞定:发完请求就阻塞一个周期;

而控制同时最大并发只需要一个channel用来计数。计数不能用互斥锁计数器,因为互斥锁不能实现阻塞

package mainimport (    "fmt"
    "sync"
    "time")var (
    working chan int //goroutine计数器 用于限制最大并发数
    wg      sync.WaitGroup
)func main() {
    jobList := []int64{1, 2, 3, 4, 5, 6, 7, 8, 9, 10} //要工作的任务清单

    //每秒3个请求 最大同时4个请求
    duration := time.Second
    concurrency := 3
    concurrencyMax := 4

    ticker := time.NewTicker(duration)
    working = make(chan int, concurrencyMax)    //通过限定1个周期派发3个任务来实现限制请求次数
    k := 0 //用于控制周期内发送次数
    for c, job := range jobList {
        working 

上面这个相对就省事很多了。
但是,如果计数器+1的时候发生阻塞,那么下一个等待周期可能是白等的。
同样的原因,如果发起请求的操作也有耗时,很可能这一批请求发完就已经进入下一个周期,于是不等就有超发的风险,等待有白等的风险。

因此上面的方法仅限于发起并发请求几乎0耗时的操作。

如果要避免白等,就还需要一个精确的周期计数器。两种方案:

  1. 类似令牌池,维持一个channel来发放令牌,周期性刷新。就像这里令牌池的实现

  2. 维持一个计数器,周期性重置

无论哪种方案都需要加锁。
第一种方案加锁是为了避免在发放令牌的时候遭遇通道关闭(会引发panic)。
第二种在+1和-1甚至比对的时候都要加锁。



作者:流芳不待人
链接:https://www.jianshu.com/p/c9919d740567

来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/4259/viewspace-2805023/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2019-08-12

  • 博文量
    80
  • 访问量
    755