PHP中高效并行检查多链接状态的教程

PHP中高效并行检查多链接状态的教程

本文旨在解决php脚本在循环检查多个远程文件链接时遇到的`err_connection_reset`问题。通过分析传统`get_headers`方法的局限性,我们提出并详细演示了如何利用phpcurl多请求功能(`curl_multi_*`)实现高效、并行且健壮的链接状态检查,从而避免连接重置错误,并显著提升脚本性能。

在开发PHP脚本以检查远程服务器上文件的存在性时,开发者常会遇到一个常见但棘手的问题:当脚本尝试连续检查大量URL时,可能会收到ERR_CONNECTION_RESET错误,甚至导致后续无法通过浏览器访问这些链接。即使引入sleep()函数进行延迟,也往往无法彻底解决问题。这通常是由于服务器端的连接限制、防火墙规则或客户端在短时间内发起了过多同步请求,导致服务器主动断开连接。

get_headers()方法的局限性

原始问题中使用的get_headers()函数,虽然在检查单个URL时非常方便,但其本质是一个同步阻塞操作。这意味着每次请求都会等待服务器响应,然后才能发起下一个请求。当脚本在短时间内对同一服务器发起大量此类请求时,可能会触发以下问题:

服务器端限速或连接限制: 许多Web服务器或CDN服务会实施IP限速或并发连接数限制,以防止DDoS攻击或资源滥用。短时间内的大量同步请求很容易触及这些限制,导致服务器返回ERR_CONNECTION_RESET或直接拒绝连接。资源消耗: 每次get_headers()调用都会建立一个新的HTTP连接。频繁地建立和关闭连接会消耗服务器和客户端的资源。效率低下: 同步请求意味着脚本必须等待每个请求完成才能继续,这在处理大量URL时效率极低。即使添加sleep()延迟,也只是缓解了问题,并未从根本上解决同步阻塞的低效性。

解决方案:利用PHP cURL多请求并行处理

为了克服get_headers()的局限性,PHP的cURL扩展提供了一套强大的多请求(curl_multi_*)API,允许开发者并行处理多个HTTP请求。这种方式具有以下显著优势:

并行处理: 脚本可以同时发起多个请求,大大减少了总执行时间。资源优化 cURL多请求可以在一定程度上复用连接,减少了连接建立和关闭的开销。更强的控制力: 提供了丰富的选项来配置请求,例如超时、代理、HTTP头等。避免连接重置: 通过并行而非顺序地分散请求,可以更有效地管理与服务器的交互,降低触发服务器端限速的风险。

cURL多请求工作原理与实现

使用cURL多请求处理多个URL的基本步骤如下:

立即学习“PHP免费学习笔记(深入)”;

初始化多请求句柄: 使用curl_multi_init()创建一个cURL多请求句柄。创建并配置单个cURL句柄: 对于每个要检查的URL,使用curl_init()创建一个独立的cURL句柄,并使用curl_setopt()配置其行为。CURLOPT_URL:设置请求的URL。CURLOPT_FILETIME:获取远程文档的时间。CURLOPT_NOBODY:设置为true时,cURL将发送一个HEAD请求,只获取响应头,不下载实际内容。这对于检查文件存在性非常高效。CURLOPT_RETURNTRANSFER:设置为true时,cURL会将获取的响应作为字符串返回,而不是直接输出。CURLOPT_HEADER:设置为true时,响应中会包含HTTP头信息。将单个句柄添加到多请求句柄: 使用curl_multi_add_handle()将每个配置好的cURL句柄添加到多请求句柄中。并行执行请求: 使用一个循环和curl_multi_exec()函数来持续执行所有请求,直到所有请求都完成。curl_multi_exec()是非阻塞的,它会尽可能地执行当前可用的请求,并通过第二个参数$still_running指示是否还有请求正在进行。处理请求结果: 在所有请求完成后,遍历之前存储的单个cURL句柄数组。对于每个句柄,使用curl_getinfo()获取请求的详细信息,特别是HTTP状态码(CURLINFO_HTTP_CODE),以判断文件是否存在。资源清理: 使用curl_multi_remove_handle()从多请求句柄中移除单个cURL句柄,并使用curl_multi_close()关闭多请求句柄,释放资源。

示例代码

以下是使用cURL多请求并行检查多个文件URL的示例代码:

 0; $x--) {        // 构建文件URL        $combinedUrl = 'http://update.example.com/Files/Updates/6.' . $revisionNumber . '.' .  $minorNumber . '.' .  $x . '/application7_' . $revisionNumber . '_' .  $minorNumber . '_' .  $x . '_de_FullInstallerx64.exe';        // 初始化单个cURL句柄        $curl = curl_init();        // 设置URL        curl_setopt($curl, CURLOPT_URL, $combinedUrl);        // 获取文件时间(可选)        curl_setopt($curl, CURLOPT_FILETIME, true);        // 只发送HEAD请求,不下载内容,高效检查文件存在性        curl_setopt($curl, CURLOPT_NOBODY, true);        // 将响应作为字符串返回,而不是直接输出        curl_setopt($curl, CURLOPT_RETURNTRANSFER, true);        // 包含响应头信息        curl_setopt($curl, CURLOPT_HEADER, true);        // 设置连接超时和请求超时,防止长时间等待        curl_setopt($curl, CURLOPT_CONNECTTIMEOUT, 5); // 连接超时5秒        curl_setopt($curl, CURLOPT_TIMEOUT, 10);      // 总请求超时10秒        // 将单个cURL句柄添加到多请求句柄中        curl_multi_add_handle($multiCurl, $curl);        // 存储句柄及其关联的build号,以便后续处理        $curlHandles[] = ['curl' => $curl, 'build' => $x];    }    // 执行所有cURL请求直到完成    $stillRunning = null;    do {        // 循环执行cURL请求,直到所有请求都处理完毕        // curl_multi_exec是非阻塞的,会处理所有可用的请求        $mrc = curl_multi_exec($multiCurl, $stillRunning);    } while ($stillRunning > 0 && $mrc == CURLM_OK); // 确保没有错误发生    // 遍历所有句柄,处理请求结果    foreach ($curlHandles as $item) {        $curl = $item['curl'];        $build = $item['build'];        file_put_contents('log.txt', "Checking Build: " . $build . "n", FILE_APPEND);        // 获取HTTP状态码        $httpCode = curl_getinfo($curl, CURLINFO_HTTP_CODE);        // 获取实际请求的URL        $effectiveUrl = curl_getinfo($curl, CURLINFO_EFFECTIVE_URL);        if ($httpCode === 404) {            // HTTP 404 Not Found 表示文件不存在            $exists = "no";            file_put_contents('log.txt', $effectiveUrl . " - " . "does not exist. n", FILE_APPEND);        } else if ($httpCode >= 200 && $httpCode < 300) {            // HTTP 2xx 状态码表示请求成功,文件存在            $exists = "yes";            file_put_contents('log.txt', $effectiveUrl . " - " . "exists. n", FILE_APPEND);        } else {            // 其他状态码,例如 5xx 服务器错误,或者连接失败等            $exists = "unknown";            file_put_contents('log.txt', $effectiveUrl . " - " . "status: " . $httpCode . " (could not verify existence). n", FILE_APPEND);        }        // 从多请求句柄中移除当前cURL句柄并关闭它        curl_multi_remove_handle($multiCurl, $curl);        curl_close($curl); // 显式关闭单个cURL句柄    }    // 关闭cURL多请求句柄    curl_multi_close($multiCurl);}// 调用函数执行检查// checkAllUrls(); // 在实际应用中调用此函数

注意事项与最佳实践

错误处理: 在实际应用中,除了检查HTTP状态码,还应该检查curl_multi_exec()和curl_getinfo()可能返回的错误码,以处理网络问题、DNS解析失败等情况。超时设置: CURLOPT_CONNECTTIMEOUT(连接超时)和CURLOPT_TIMEOUT(总请求超时)是关键选项,它们可以防止脚本因某个无响应的服务器而长时间阻塞。用户代理(User-Agent): 某些服务器可能会根据User-Agent头进行过滤。设置一个合适的User-Agent(CURLOPT_USERAGENT)可以模拟浏览器行为,避免被服务器拒绝。并发数控制: 尽管cURL多请求支持并行,但同时发起的请求数量并非越多越好。过多的并发请求仍然可能对客户端和服务器造成压力。在处理数千甚至数万个URL时,可以考虑分批处理(例如,每次处理50或100个URL),以平衡效率和资源消耗。资源清理: 务必确保在所有操作完成后,使用curl_multi_remove_handle()移除每个句柄,并最终使用curl_multi_close()关闭多请求句柄,以释放系统资源。

总结

当PHP脚本需要高效、健壮地检查大量远程链接时,get_headers()等同步方法因其效率低下和容易触发服务器端限制而不再适用。通过采用PHP的cURL多请求机制,开发者可以实现请求的并行处理,显著提升脚本性能,有效避免ERR_CONNECTION_RESET等连接问题,并对请求过程拥有更细粒度的控制。理解并正确运用curl_multi_*函数是构建高性能网络请求处理脚本的关键。

以上就是PHP中高效并行检查多链接状态的教程的详细内容,更多请关注php中文网其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1339309.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月13日 02:49:46
下一篇 2025年12月13日 02:49:58

相关推荐

  • uniapp 中图片加载显示灰块,如何排查问题?

    uniapp 图片加载灰块问题排查 在 uniapp 中使用 image 组件时,可能会遇到图片加载不出来的情况,显示为灰色的占位区块。导致此问题的主要原因是: base64 代码不正确 使用 base64 编码加载图片时,如果编码有误,浏览器将无法正确解析和渲染图片。这会导致出现灰色的占位块。 解…

    2025年12月24日
    000
  • css中文手册当前页面发生错误怎么办

    发生“当前页面发生错误”错误时,请依次尝试:检查网络连接;刷新页面;清除浏览器缓存;禁用浏览器扩展;检查浏览器版本;联系网站管理员;尝试其他浏览器;查看浏览器控制台。 CSS 中文手册当前页面发生错误怎么办 当您在使用 CSS 中文手册时遇到当前页面发生错误的情况,可以采用以下步骤进行排查和解决: …

    2025年12月24日
    000
  • 网页设计css样式代码大全,快来收藏吧!

    减少很多不必要的代码,html+css可以很方便的进行网页的排版布局。小伙伴们收藏好哦~ 一.文本设置    1、font-size: 字号参数  2、font-style: 字体格式 3、font-weight: 字体粗细 4、颜色属性 立即学习“前端免费学习笔记(深入)”; color: 参数 …

    2025年12月24日
    000
  • css中id选择器和class选择器有何不同

    之前的文章《什么是CSS语法?详细介绍使用方法及规则》中带了解CSS语法使用方法及规则。下面本篇文章来带大家了解一下CSS中的id选择器与class选择器,介绍一下它们的区别,快来一起学习吧!! id选择器和class选择器介绍 CSS中对html元素的样式进行控制是通过CSS选择器来完成的,最常用…

    2025年12月24日
    000
  • css中的浏览器私有化前缀有哪些

    css中的浏览器私有化前缀有:1、谷歌浏览器和苹果浏览器【-webkit-】;2、火狐浏览器【-moz-】;3、IE浏览器【-ms-】;4、欧朋浏览器【-o-】。 浏览器私有化前缀有如下几个: (学习视频分享:css视频教程) -webkit-:谷歌 苹果 background:-webkit-li…

    2025年12月24日
    300
  • 如何利用css改变浏览器滚动条样式

    注意:该方法只适用于 -webkit- 内核浏览器 滚动条外观由两部分组成: 1、滚动条整体滑轨 2、滚动条滑轨内滑块 在CSS中滚动条由3部分组成 立即学习“前端免费学习笔记(深入)”; name::-webkit-scrollbar //滚动条整体样式name::-webkit-scrollba…

    2025年12月24日
    000
  • css如何解决不同浏览器下文本兼容的问题

    目标: css实现不同浏览器下兼容文本两端对齐。 在 form 表单的前端布局中,我们经常需要将文本框的提示文本两端对齐,例如: 解决过程: 立即学习“前端免费学习笔记(深入)”; 1、首先想到是能不能直接靠 css 解决问题 css .test-justify { text-align: just…

    2025年12月24日 好文分享
    200
  • 关于jQuery浏览器CSS3特写兼容的介绍

    这篇文章主要介绍了jquery浏览器css3特写兼容的方法,实例分析了jquery兼容浏览器的使用技巧,需要的朋友可以参考下 本文实例讲述了jQuery浏览器CSS3特写兼容的方法。分享给大家供大家参考。具体分析如下: CSS3充分吸收多年了web发展的需求,吸收了很多新颖的特性。例如border-…

    好文分享 2025年12月24日
    000
  • php约瑟夫问题如何解决

    “约瑟夫环”是一个数学的应用问题:一群猴子排成一圈,按1,2,…,n依次编号。然后从第1只开始数,数到第m只,把它踢出圈,从它后面再开始数, 再数到第m只,在把它踢出去…,如此不停的进行下去, 直到最后只剩下一只猴子为止,那只猴子就叫做大王。要求编程模拟此过程,输入m、n, 输出最后那个大王的编号。…

    好文分享 2025年12月24日
    000
  • 360浏览器兼容模式的页面显示不全怎么处理

    这次给大家带来360浏览器兼容模式的页面显示不全怎么处理,处理360浏览器兼容模式页面显示不全的注意事项有哪些,下面就是实战案例,一起来看一下。  由于众所周知的情况,国内的主流浏览器都是双核浏览器:基于Webkit内核用于常用网站的高速浏览。基于IE的内核用于兼容网银、旧版网站。以360的几款浏览…

    好文分享 2025年12月24日
    000
  • 如何解决css对浏览器兼容性问题总结

    css对浏览器的兼容性有时让人很头疼,或许当你了解当中的技巧跟原理,就会觉得也不是难事,从网上收集了ie7,6与fireofx的兼容性处理方法并 整理了一下.对于web2.0的过度,请尽量用xhtml格式写代码,而且doctype 影响 css 处理,作为w3c的标准,一定要加 doctype声名.…

    好文分享 2025年12月23日
    000
  • 关于CSS3中选择符的实例详解

    英文原文: www.456bereastreet.com/archive/200601/css_3_selectors_explained/中文翻译: www.dudo.org/article.asp?id=197注:本文写于2006年1月,当时IE7、IE8和Firefox3还未发行,文中所有说的…

    好文分享 2025年12月23日
    000
  • 阐述什么是CSS3?

    网页制作Webjx文章简介:CSS3不是新事物,更不是只是围绕border-radius属性实现的圆角。它正耐心的坐在那里,已经准备好了首次登场,呷着咖啡,等着浏览器来铺上红地毯。            CSS3不是新事物,更不是只是围绕border-radius属性实现              …

    好文分享 2025年12月23日
    000
  • 用CSS hack技术解决浏览器兼容性问题

    什么是CSS Hack?   不同的浏览器对CSS的解析结果是不同的,因此会导致相同的CSS输出的页面效果不同,这就需要CSS Hack来解决浏览器局部的兼容性问题。而这个针对不同的浏览器写不同的CSS 代码的过程,就叫CSS Hack。 CSS Hack 形式   CSS Hack大致有3种表现形…

    好文分享 2025年12月23日
    000
  • 如何使用css去除浏览器对表单赋予的默认样式

    我们在写表单的时候会发现一些浏览器对表单赋予了默认的样式,如在chorme浏览器下,文本框及下拉选择框当载入焦点时,都会出现发光的边框,并且在火狐及谷歌浏览器下,多行文本框textarea还可以自由拖拽拉大,另外还有在ie10下,当文本框输入内容后,在文本框的右侧会出现一个小叉叉,等等。不容置疑,这…

    好文分享 2025年12月23日
    000
  • CSS新手整理的有关CSS使用技巧

    [导读]  1、不要使用过小的图片做背景平铺。这就是为何很多人都不用 1px 的原因,这才知晓。宽高 1px 的图片平铺出一个宽高 200px 的区域,需要 200*200=40, 000 次,占用资源。  2、无边框。推荐的写法是     1、不要使用过小的图片做背景平铺。这就是为何很多人都不用 …

    好文分享 2025年12月23日
    000
  • CSS中实现图片垂直居中方法详解

    [导读] 在曾经的 淘宝ued 招聘 中有这样一道题目:“使用纯css实现未知尺寸的图片(但高宽都小于200px)在200px的正方形容器中水平和垂直居中。”当然出题并不是随意,而是有其现实的原因,垂直居中是 淘宝 工作中最 在曾经的 淘宝UED 招聘 中有这样一道题目: “使用纯CSS实现未知尺寸…

    好文分享 2025年12月23日
    000
  • CSS派生选择器

    [导读] 派生选择器通过依据元素在其位置的上下文关系来定义样式,你可以使标记更加简洁。在 css1 中,通过这种方式来应用规则的选择器被称为上下文选择器 (contextual selectors),这是由于它们依赖于上下文关系来应 派生选择器 通过依据元素在其位置的上下文关系来定义样式,你可以使标…

    好文分享 2025年12月23日
    000
  • CSS 基础语法

    [导读] css 语法 css 规则由两个主要的部分构成:选择器,以及一条或多条声明。selector {declaration1; declaration2;     declarationn }选择器通常是您需要改变样式的 html 元素。每条声明由一个属性和一个 CSS 语法 CSS 规则由两…

    2025年12月23日
    300
  • CSS 高级语法

    [导读] 选择器的分组你可以对选择器进行分组,这样,被分组的选择器就可以分享相同的声明。用逗号将需要分组的选择器分开。在下面的例子中,我们对所有的标题元素进行了分组。所有的标题元素都是绿色的。h1,h2,h3,h4,h5 选择器的分组 你可以对选择器进行分组,这样,被分组的选择器就可以分享相同的声明…

    好文分享 2025年12月23日
    000

发表回复

登录后才能评论
关注微信