答案:Golang中通过令牌桶算法实现限速任务调度,可使用rate.Limiter或自定义TokenBucket控制并发。

在高并发场景下,控制任务执行速率是保障系统稳定的关键。Golang 中通过 Token Bucket(令牌桶) 算法实现限速并发任务是一种常见且高效的方式。它既能平滑控制请求速率,又能应对突发流量。下面介绍如何用 Go 实现一个基于 Token Bucket 的限速任务调度器。
Token Bucket 原理简述
令牌桶算法维护一个固定容量的“桶”,以恒定速率向桶中添加令牌。每次执行任务前必须从桶中获取一个令牌,若桶空则等待。这种方式允许一定程度的突发请求(只要桶中有令牌),同时长期速率受生成速率限制。
Go 标准库 golang.org/x/time/rate 提供了开箱即用的 rate.Limiter,底层正是基于令牌桶实现。
使用 rate.Limiter 控制任务并发速率
假设我们需要每秒最多执行 5 个任务,可以这样实现:
立即学习“go语言免费学习笔记(深入)”;
package mainimport ("context""fmt""math/rand""sync""time"
"golang.org/x/time/rate"
)
func main() {// 每秒产生 5 个令牌,桶容量为 10(允许短暂突发)limiter := rate.NewLimiter(5, 10)var wg sync.WaitGroupctx := context.Background()
tasks := make([]func(), 20)for i := 0; i < 20; i++ { taskID := i tasks[i] = func() { defer wg.Done() // 等待获取一个令牌 if err := limiter.Wait(ctx); err != nil { fmt.Printf("任务 %d 被取消: %vn", taskID, err) return } // 模拟任务执行(耗时随机) duration := time.Duration(rand.Intn(300)) * time.Millisecond time.Sleep(duration) fmt.Printf("任务 %d 执行完成,耗时 %vn", taskID, duration) }}// 并发启动所有任务for _, task := range tasks { wg.Add(1) go task()}wg.Wait()fmt.Println("所有任务完成")
}
上面代码中:
rate.NewLimiter(5, 10) 表示每秒生成 5 个令牌,桶最多存 10 个。limiter.Wait(ctx) 会阻塞直到拿到令牌,适合同步控制。使用 context 可支持超时或取消任务。
自定义 Token Bucket 实现(无第三方依赖)
如果不想引入 x/time/rate,也可以手写一个简单的令牌桶:
type TokenBucket struct { capacity int64 // 桶容量 tokens int64 // 当前令牌数 rate time.Duration // 每产生一个令牌的时间间隔 lastGrant time.Time // 上次发放令牌时间 mu sync.Mutex}func NewTokenBucket(capacity int64, rps float64) *TokenBucket {interval := time.Second / time.Duration(rps) // 每秒 rps 个令牌return &TokenBucket{capacity: capacity,tokens: capacity,rate: interval,lastGrant: time.Now(),}}
func (tb *TokenBucket) Allow() bool {tb.mu.Lock()defer tb.mu.Unlock()
now := time.Now()// 补充令牌elapsed := now.Sub(tb.lastGrant)newTokens := int64(elapsed / tb.rate)if newTokens > 0 { tb.tokens = min(tb.capacity, tb.tokens+newTokens) tb.lastGrant = now}if tb.tokens > 0 { tb.tokens-- return true}return false
}
func min(a, b int64) int64 {if a
使用方式:
bucket := NewTokenBucket(10, 5.0) // 每秒5个,最多10个for i := 0; i < 20; i++ {for !bucket.Allow() {time.Sleep(10 time.Millisecond) // 等待可用令牌}go func(id int) {fmt.Printf("执行任务 %dn", id)}(i)time.Sleep(1 time.Millisecond) // 避免 goroutine 创建过快}
适用场景与优化建议
这种模式适用于:
调用外部 API 限流(如 GitHub API 每小时调用次数限制)批量任务处理防止资源打满爬虫控制请求频率
优化点:
结合 context.WithTimeout 避免无限等待对不同用户/租户使用独立限流器实现多级控制监控桶的消耗情况用于告警或动态调整速率
基本上就这些。Golang 的简洁并发模型加上令牌桶算法,能轻松实现高效、可控的任务调度。实际项目中推荐优先使用 rate.Limiter,稳定且经过充分验证。
以上就是Golang 如何实现限速并发任务执行_Golang Token Bucket 限流算法实战的详细内容,更多请关注创想鸟其它相关文章!
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1422781.html
微信扫一扫
支付宝扫一扫