该方案通过带缓冲通道控制goroutine并发数,避免资源耗尽。使用信号量模型,以固定容量的channel作为令牌桶,任务执行前获取令牌,完成后释放,实现简单且资源开销小。示例中创建容量为3的协程池,提交10个任务,最多3个并发执行,适用于爬虫、批量IO等场景,需注意合理设置并发数并防止panic导致协程异常退出。

在Go语言中,协程(goroutine)轻量且高效,但无限制地创建协程可能导致系统资源耗尽。为控制并发数量、提升性能和资源利用率,通常使用协程池。一种常见且高效的实现方式是带缓冲通道的协程池方案。
核心思路:用带缓冲的通道控制并发数
该方案不预先启动固定数量的goroutine,而是通过一个带缓冲的channel来控制最大并发数。每当启动一个任务时,先向channel写入一个信号,任务完成后再释放该信号。这种方式本质上是信号量模型,简单且易于理解。
优点:
无需维护worker队列资源开销小,代码简洁可动态提交任务,无需关闭池后等待
实现方式:使用带缓冲的channel作为并发控制
定义一个缓冲通道作为“令牌桶”,其容量即为最大并发数。每个任务执行前需获取一个令牌,执行完成后归还。
立即学习“go语言免费学习笔记(深入)”;
示例代码:
package mainimport ("fmt""sync""time")
type Task func()
type Pool struct {capacity int // 最大并发数sem chan struct{} // 信号量通道wg sync.WaitGroup}
// NewPool 创建协程池,指定最大并发数func NewPool(capacity int) *Pool {return &Pool{capacity: capacity,sem: make(chan struct{}, capacity),}}
// Submit 提交任务func (p *Pool) Submit(task Task) {p.wg.Add(1)go func() {defer p.wg.Done()p.sem <- struct{}{} // 获取令牌defer func() { <-p.sem }() // 释放令牌
task() // 执行任务}()
}
// Close 等待所有任务完成func (p *Pool) Close() {p.wg.Wait()}
使用示例
下面是一个简单使用示例,提交10个任务,但最多同时运行3个goroutine。
func main() { pool := NewPool(3) // 最多3个并发for i := 0; i < 10; i++ { i := i pool.Submit(func() { fmt.Printf("执行任务 %d,协程ID: %vn", i, &i) time.Sleep(1 * time.Second) // 模拟耗时操作 })}pool.Close() // 等待所有任务完成fmt.Println("所有任务已完成")
}
输出会显示每次最多3个任务并发执行,符合预期。
适用场景与注意事项
该方案适用于任务数量较多但希望限制并发数的场景,如爬虫、批量IO操作、并发请求处理等。
注意事项:
缓冲通道的大小决定了最大并发数,应根据系统负载合理设置任务函数内部应避免panic导致协程退出,建议在task外层加recoverSubmit是非阻塞的,任务提交后立即返回,适合异步处理如需获取任务返回值,可扩展Task类型为 func() interface{} 并配合channel返回结果
基本上就这些。这种带缓冲通道的协程池实现简单、高效,适合大多数并发控制需求,是Go中推荐的轻量级协程管理方式。
以上就是Golang协程池构建 带缓冲通道方案的详细内容,更多请关注创想鸟其它相关文章!
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1401090.html
微信扫一扫
支付宝扫一扫