PHP中高效并行检查多链接状态的教程

PHP中高效并行检查多链接状态的教程

本文旨在解决php脚本在循环检查多个远程文件链接时遇到的`err_connection_reset`问题。通过分析传统`get_headers`方法的局限性,我们提出并详细演示了如何利用php的curl多请求功能(`curl_multi_*`)实现高效、并行且健壮的链接状态检查,从而避免连接重置错误,并显著提升脚本性能。

在开发PHP脚本以检查远程服务器上文件的存在性时,开发者常会遇到一个常见但棘手的问题:当脚本尝试连续检查大量URL时,可能会收到ERR_CONNECTION_RESET错误,甚至导致后续无法通过浏览器访问这些链接。即使引入sleep()函数进行延迟,也往往无法彻底解决问题。这通常是由于服务器端的连接限制、防火墙规则或客户端在短时间内发起了过多同步请求,导致服务器主动断开连接。

get_headers()方法的局限性

原始问题中使用的get_headers()函数,虽然在检查单个URL时非常方便,但其本质是一个同步阻塞操作。这意味着每次请求都会等待服务器响应,然后才能发起下一个请求。当脚本在短时间内对同一服务器发起大量此类请求时,可能会触发以下问题:

服务器端限速或连接限制: 许多Web服务器或CDN服务会实施IP限速或并发连接数限制,以防止DDoS攻击或资源滥用。短时间内的大量同步请求很容易触及这些限制,导致服务器返回ERR_CONNECTION_RESET或直接拒绝连接。资源消耗: 每次get_headers()调用都会建立一个新的HTTP连接。频繁地建立和关闭连接会消耗服务器和客户端的资源。效率低下: 同步请求意味着脚本必须等待每个请求完成才能继续,这在处理大量URL时效率极低。即使添加sleep()延迟,也只是缓解了问题,并未从根本上解决同步阻塞的低效性。

解决方案:利用PHP cURL多请求并行处理

为了克服get_headers()的局限性,PHP的cURL扩展提供了一套强大的多请求(curl_multi_*)API,允许开发者并行处理多个HTTP请求。这种方式具有以下显著优势:

并行处理: 脚本可以同时发起多个请求,大大减少了总执行时间。资源优化: cURL多请求可以在一定程度上复用连接,减少了连接建立和关闭的开销。更强的控制力: 提供了丰富的选项来配置请求,例如超时、代理、HTTP头等。避免连接重置: 通过并行而非顺序地分散请求,可以更有效地管理与服务器的交互,降低触发服务器端限速的风险。

cURL多请求工作原理与实现

使用cURL多请求处理多个URL的基本步骤如下:

立即学习“PHP免费学习笔记(深入)”;

初始化多请求句柄: 使用curl_multi_init()创建一个cURL多请求句柄。创建并配置单个cURL句柄: 对于每个要检查的URL,使用curl_init()创建一个独立的cURL句柄,并使用curl_setopt()配置其行为。CURLOPT_URL:设置请求的URL。CURLOPT_FILETIME:获取远程文档的时间。CURLOPT_NOBODY:设置为true时,cURL将发送一个HEAD请求,只获取响应头,不下载实际内容。这对于检查文件存在性非常高效。CURLOPT_RETURNTRANSFER:设置为true时,cURL会将获取的响应作为字符串返回,而不是直接输出。CURLOPT_HEADER:设置为true时,响应中会包含HTTP头信息。将单个句柄添加到多请求句柄: 使用curl_multi_add_handle()将每个配置好的cURL句柄添加到多请求句柄中。并行执行请求: 使用一个循环和curl_multi_exec()函数来持续执行所有请求,直到所有请求都完成。curl_multi_exec()是非阻塞的,它会尽可能地执行当前可用的请求,并通过第二个参数$still_running指示是否还有请求正在进行。处理请求结果: 在所有请求完成后,遍历之前存储的单个cURL句柄数组。对于每个句柄,使用curl_getinfo()获取请求的详细信息,特别是HTTP状态码(CURLINFO_HTTP_CODE),以判断文件是否存在。资源清理: 使用curl_multi_remove_handle()从多请求句柄中移除单个cURL句柄,并使用curl_multi_close()关闭多请求句柄,释放资源。

示例代码

以下是使用cURL多请求并行检查多个文件URL的示例代码:

 0; $x--) {        // 构建文件URL        $combinedUrl = 'http://update.example.com/Files/Updates/6.' . $revisionNumber . '.' .  $minorNumber . '.' .  $x . '/application7_' . $revisionNumber . '_' .  $minorNumber . '_' .  $x . '_de_FullInstallerx64.exe';        // 初始化单个cURL句柄        $curl = curl_init();        // 设置URL        curl_setopt($curl, CURLOPT_URL, $combinedUrl);        // 获取文件时间(可选)        curl_setopt($curl, CURLOPT_FILETIME, true);        // 只发送HEAD请求,不下载内容,高效检查文件存在性        curl_setopt($curl, CURLOPT_NOBODY, true);        // 将响应作为字符串返回,而不是直接输出        curl_setopt($curl, CURLOPT_RETURNTRANSFER, true);        // 包含响应头信息        curl_setopt($curl, CURLOPT_HEADER, true);        // 设置连接超时和请求超时,防止长时间等待        curl_setopt($curl, CURLOPT_CONNECTTIMEOUT, 5); // 连接超时5秒        curl_setopt($curl, CURLOPT_TIMEOUT, 10);      // 总请求超时10秒        // 将单个cURL句柄添加到多请求句柄中        curl_multi_add_handle($multiCurl, $curl);        // 存储句柄及其关联的build号,以便后续处理        $curlHandles[] = ['curl' => $curl, 'build' => $x];    }    // 执行所有cURL请求直到完成    $stillRunning = null;    do {        // 循环执行cURL请求,直到所有请求都处理完毕        // curl_multi_exec是非阻塞的,会处理所有可用的请求        $mrc = curl_multi_exec($multiCurl, $stillRunning);    } while ($stillRunning > 0 && $mrc == CURLM_OK); // 确保没有错误发生    // 遍历所有句柄,处理请求结果    foreach ($curlHandles as $item) {        $curl = $item['curl'];        $build = $item['build'];        file_put_contents('log.txt', "Checking Build: " . $build . "n", FILE_APPEND);        // 获取HTTP状态码        $httpCode = curl_getinfo($curl, CURLINFO_HTTP_CODE);        // 获取实际请求的URL        $effectiveUrl = curl_getinfo($curl, CURLINFO_EFFECTIVE_URL);        if ($httpCode === 404) {            // HTTP 404 Not Found 表示文件不存在            $exists = "no";            file_put_contents('log.txt', $effectiveUrl . " - " . "does not exist. n", FILE_APPEND);        } else if ($httpCode >= 200 && $httpCode < 300) {            // HTTP 2xx 状态码表示请求成功,文件存在            $exists = "yes";            file_put_contents('log.txt', $effectiveUrl . " - " . "exists. n", FILE_APPEND);        } else {            // 其他状态码,例如 5xx 服务器错误,或者连接失败等            $exists = "unknown";            file_put_contents('log.txt', $effectiveUrl . " - " . "status: " . $httpCode . " (could not verify existence). n", FILE_APPEND);        }        // 从多请求句柄中移除当前cURL句柄并关闭它        curl_multi_remove_handle($multiCurl, $curl);        curl_close($curl); // 显式关闭单个cURL句柄    }    // 关闭cURL多请求句柄    curl_multi_close($multiCurl);}// 调用函数执行检查// checkAllUrls(); // 在实际应用中调用此函数

注意事项与最佳实践

错误处理: 在实际应用中,除了检查HTTP状态码,还应该检查curl_multi_exec()和curl_getinfo()可能返回的错误码,以处理网络问题、DNS解析失败等情况。超时设置: CURLOPT_CONNECTTIMEOUT(连接超时)和CURLOPT_TIMEOUT(总请求超时)是关键选项,它们可以防止脚本因某个无响应的服务器而长时间阻塞。用户代理(User-Agent): 某些服务器可能会根据User-Agent头进行过滤。设置一个合适的User-Agent(CURLOPT_USERAGENT)可以模拟浏览器行为,避免被服务器拒绝。并发数控制: 尽管cURL多请求支持并行,但同时发起的请求数量并非越多越好。过多的并发请求仍然可能对客户端和服务器造成压力。在处理数千甚至数万个URL时,可以考虑分批处理(例如,每次处理50或100个URL),以平衡效率和资源消耗。资源清理: 务必确保在所有操作完成后,使用curl_multi_remove_handle()移除每个句柄,并最终使用curl_multi_close()关闭多请求句柄,以释放系统资源。

总结

当PHP脚本需要高效、健壮地检查大量远程链接时,get_headers()等同步方法因其效率低下和容易触发服务器端限制而不再适用。通过采用PHP的cURL多请求机制,开发者可以实现请求的并行处理,显著提升脚本性能,有效避免ERR_CONNECTION_RESET等连接问题,并对请求过程拥有更细粒度的控制。理解并正确运用curl_multi_*函数是构建高性能网络请求处理脚本的关键。

以上就是PHP中高效并行检查多链接状态的教程的详细内容,更多请关注php中文网其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1339309.html

赞 (0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
Laravel表单中优雅地处理“返回”按钮以规避验证:最佳实践指南
上一篇 2025年12月13日 02:49:46
PHP 枚举:根据字符串获取枚举案例的策略与实现
下一篇 2025年12月13日 02:49:58

相关推荐

  • x浏览器下载速度慢怎么提升_x浏览器多线程下载速度提升技巧

    x浏览器下载速度慢怎么提升_x浏览器多线程下载速度提升技巧x浏览器下载速度慢怎么提升_x浏览器多线程下载速度提升技巧x浏览器下载速度慢怎么提升_x浏览器多线程下载速度提升技巧x浏览器下载速度慢怎么提升_x浏览器多线程下载速度提升技巧

    1、通过启用并行下载和云加速引擎,2、清理缓存与优化DNS设置,可显著提升x浏览器下载速度。 如果您在使用x浏览器下载文件时遇到速度缓慢的问题,这可能是由于浏览器设置、网络环境或服务器连接等因素导致的。通过调整相关配置和优化网络条件,可以有效改善下载体验。 本文运行环境:小米14 Pro,Andro…

    2026年9月26日 • 用户投稿
    000
  • Laravel Eloquent的技巧分享(示例讲解)

    本篇文章给大家带来的内容是关于laravel eloquent的技巧分享(示例讲解),有一定的参考价值,有需要的朋友可以参考一下,希望对你有所帮助。 Laravel 是一个功能丰富的框架。但是,你无法从官方文档中找到所有可用的功能。以下是一些你可能不知道的功能。 1.获取原始属性 当修改一条 Elo…

    2026年9月26日
    000
  • 百度极速版如何查看历史记录_百度极速版浏览历史的查找方法

    百度极速版如何查看历史记录_百度极速版浏览历史的查找方法百度极速版如何查看历史记录_百度极速版浏览历史的查找方法百度极速版如何查看历史记录_百度极速版浏览历史的查找方法百度极速版如何查看历史记录_百度极速版浏览历史的查找方法

    打开百度极速版APP,点击底部“我的”进入个人中心;2. 点击“历史”查看阅读浏览记录;3. 切换至“搜索浏览”查看搜索记录;4. 若无记录需检查设置中历史记录功能是否开启。 在百度极速版里查看历史记录很简单,主要通过“我的”页面进入。下面介绍具体查找方法。 如何进入历史记录页面 打开手机上的百度极…

    2026年9月26日 • 用户投稿
    200
  • 夸克怎么把网页添加到桌面_夸克网页快捷方式创建方法

    夸克怎么把网页添加到桌面_夸克网页快捷方式创建方法夸克怎么把网页添加到桌面_夸克网页快捷方式创建方法夸克怎么把网页添加到桌面_夸克网页快捷方式创建方法夸克怎么把网页添加到桌面_夸克网页快捷方式创建方法

    通过夸克浏览器可将常用网页添加到iPhone桌面,实现一键访问。首先在夸克中打开目标页面,点击底部更多选项(三个点),选择“添加到桌面”并确认,系统自动创建快捷方式;若无法直接添加,可点击分享图标,在分享列表中选择“添加到主屏幕”,按提示完成命名与放置;对于需自定义的用户,可在创建过程中修改默认标题…

    2026年9月26日 • 用户投稿
    000
  • 服务发现组件 Eureka 和 Nacos 有什么区别?

    服务发现组件 Eureka 和 Nacos 有什么区别?服务发现组件 Eureka 和 Nacos 有什么区别?服务发现组件 Eureka 和 Nacos 有什么区别?服务发现组件 Eureka 和 Nacos 有什么区别?

    Eureka 侧重服务注册与发现,适合简单场景;Nacos 功能更全,支持配置管理、动态更新与高扩展性,适用于复杂微服务架构。选择需根据技术栈、项目规模及未来扩展需求权衡,Nacos 在大型项目中更具优势。 Eureka 和 Nacos 都是服务发现组件,核心作用都是让服务能够被其他服务找到并调用。…

    2026年9月26日 • 用户投稿
    000
  • Gemini生成内容能导出吗 Gemini结果保存与导出技巧分享

    Gemini生成内容能导出吗 Gemini结果保存与导出技巧分享Gemini生成内容能导出吗 Gemini结果保存与导出技巧分享Gemini生成内容能导出吗 Gemini结果保存与导出技巧分享Gemini生成内容能导出吗 Gemini结果保存与导出技巧分享

    关于Gemini生成内容能否导出或保存的问题,答案是肯定的。Gemini作为一款强大的AI工具,其生成的结果通常可以通过多种方式进行保存和导出,以便您后续查阅、编辑或分享。本文旨在分享一些实用的技巧,帮助您轻松保存Gemini的输出内容。我们将分步骤讲解如何通过几种主要方式实现这一目标,方便您学习和…

    2026年9月26日 • 用户投稿
    000
  • laravel项目之发布导致的BUG(环境变量问题)

    本篇文章给大家带来的内容是关于laravel项目之发布导致的BUG(环境变量问题) ,有一定的参考价值,有需要的朋友可以参考一下,希望对你有所帮助。 laravel项目的某一次发布后,项目中连接数据库突然报错,而用同样的数据库账号密码在机器上连接是可以的。 临时解决方案 经过短暂时间的排查,没找到原…

    2026年9月26日
    300
  • uc浏览器怎么设置成单窗口模式_UC浏览器多窗口与单窗口切换设置

    uc浏览器怎么设置成单窗口模式_UC浏览器多窗口与单窗口切换设置uc浏览器怎么设置成单窗口模式_UC浏览器多窗口与单窗口切换设置uc浏览器怎么设置成单窗口模式_UC浏览器多窗口与单窗口切换设置uc浏览器怎么设置成单窗口模式_UC浏览器多窗口与单窗口切换设置

    首先在UC浏览器设置中将新页面打开方式改为“当前窗口打开”,然后关闭分屏与多任务窗口功能,最后手动合并现有标签页,实现单窗口浏览。 如果您在使用UC浏览器时希望减少窗口切换的麻烦,提升浏览效率,可以通过设置将浏览器调整为单窗口模式。该模式下所有网页将在同一窗口中打开,避免产生多个标签页或窗口干扰操作…

    2026年9月26日 • 用户投稿
    000
  • 实现搜索结果按字母排序:PHP结合Ajax的专业教程

    本文档旨在提供一种使用PHP和Ajax对通过POST方法获取的搜索结果进行A-Z排序的解决方案。我们将创建一个表单,保存POST数据,并利用PHP函数对医生列表进行排序,最终通过Ajax实现无需刷新页面的排序功能。 1. 修改 search.php 文件 首先,我们需要在 search.php 文件…

    2026年9月26日
    000
  • 网易云音乐网页版在线播放网址 网易云音乐网页版官网登录入口

    网易云音乐网页版官网登录入口为https://music.163.com/,支持在线播放、MV搜索、歌单管理、电台收听及内容收藏分享等功能,界面简洁,适配多设备,涵盖新碟、榜单、独立音乐人及场景化音频内容。 网易云音乐网页版在线播放网址在哪里?这是不少网友都关注的,接下来由PHP小编为大家带来网易云…

    2026年9月26日
    000
  • 悟空浏览器怎么把网页保存为图片_悟空浏览器将整个网页另存为图片教程

    悟空浏览器怎么把网页保存为图片_悟空浏览器将整个网页另存为图片教程悟空浏览器怎么把网页保存为图片_悟空浏览器将整个网页另存为图片教程悟空浏览器怎么把网页保存为图片_悟空浏览器将整个网页另存为图片教程悟空浏览器怎么把网页保存为图片_悟空浏览器将整个网页另存为图片教程

    使用悟空浏览器可将网页保存为图片:1. 通过菜单选择“长截屏”自动拼接完整页面;2. 利用分享功能调用系统截图工具生成图片;3. 将网页另存为HTML后借助第三方工具转换为图像格式。 如果您在浏览网页时希望将整个页面保存为图片以便分享或存档,但不确定如何操作,可以通过悟空浏览器的内置功能实现。以下是…

    2026年9月26日 • 用户投稿
    100
  • 一篇文章带你深入了解Flink SQL流处理中的特殊概念

    一篇文章带你深入了解Flink SQL流处理中的特殊概念一篇文章带你深入了解Flink SQL流处理中的特殊概念一篇文章带你深入了解Flink SQL流处理中的特殊概念一篇文章带你深入了解Flink SQL流处理中的特殊概念

    本文深入探讨了flink sql流处理中的特殊概念,主要包括表与流处理的区别、动态表的概念以及流式持续查询的过程。以下是详细介绍。 一、流处理和关系代数(表,及 SQL)的区别 可以看出,关系代数(主要指关系型数据库中的表)和 SQL 主要针对批处理,这与流处理存在天然的差异。 二、动态表(Dyna…

    2026年9月26日 • 用户投稿
    100
  • 操作指南:如何将抖音订单导入拼多多店铺

    操作指南:如何将抖音订单导入拼多多店铺操作指南:如何将抖音订单导入拼多多店铺操作指南:如何将抖音订单导入拼多多店铺操作指南:如何将抖音订单导入拼多多店铺

    为何要将抖音订单同步至拼多多店铺 作为国内领先的社交电商平台,拼多多拥有庞大的用户流量,与抖音的广泛受众高度契合。将抖音平台的订单数据导入拼多多店铺,已成为电商运营者提升效率的重要手段。此举不仅有助于增强店铺在多平台的曝光度,还能实现订单的集中化管理,提升整体运营效率。 具体操作步骤:从抖音导入订单…

    2026年9月26日 • 用户投稿
    000
  • laravel任务调度的介绍(附代码)

    本篇文章给大家带来的内容是关于laravel任务调度的介绍(附代码),有一定的参考价值,有需要的朋友可以参考一下,希望对你有所帮助。 导语:之前写过使用 Linux 的进行定时任务,实际上 laravel 也可以执行定时任务。需求是统计每日访问的 IP 数,虽然数据表中有数据,为了演示,新建监听器统…

    2026年9月26日
    700
  • QQ好友动态无法查看怎么办

    QQ好友动态无法查看怎么办QQ好友动态无法查看怎么办QQ好友动态无法查看怎么办QQ好友动态无法查看怎么办

    首先检查好友动态权限,确认是否被限制访问;再核实自身账号状态,排除被拉黑可能;接着清除QQ缓存并更新至最新版本;最后尝试切换网络或使用网页端查看。 QQ好友动态无法查看,通常和权限设置、网络问题或软件异常有关。先别着急,可以按以下方法逐一排查解决。 检查好友的动态权限设置 有些好友设置了动态访问权限…

    2026年9月26日 • 用户投稿
    000
  • 游戏模式优化:Windows11后台进程管理实测

    游戏模式优化:Windows11后台进程管理实测游戏模式优化:Windows11后台进程管理实测游戏模式优化:Windows11后台进程管理实测游戏模式优化:Windows11后台进程管理实测

    通过windows 11的游戏模式可以优化游戏性能,具体方法包括:1. 启用游戏模式自动调整系统资源;2. 通过后台进程管理限制资源消耗;3. 手动关闭不必要的后台进程;4. 确保驱动程序更新并注意游戏模式对其他应用的影响。 游戏模式优化可以通过调整Windows 11的后台进程管理来实现,这可以显…

    2026年9月26日 • 用户投稿
    200
  • 基于Quarkus的云原生Java开发:启动时间低于0.5秒的实践方案

    基于Quarkus的云原生Java开发:启动时间低于0.5秒的实践方案基于Quarkus的云原生Java开发:启动时间低于0.5秒的实践方案基于Quarkus的云原生Java开发:启动时间低于0.5秒的实践方案基于Quarkus的云原生Java开发:启动时间低于0.5秒的实践方案

    Quarkus通过GraalVM Native Image预编译实现启动时间低于0.5秒,需配置pom.xml插件、优化依赖、使用Quarkus CLI并监控调优。 Quarkus通过预编译和GraalVM Native Image等技术,让Java应用在云原生环境中拥有极低的启动时间和内存占用。本…

    2026年9月26日 • 用户投稿
    500
  • 如何用WPS转换PDF为Word_WPS PDF转Word格式转换操作教程

    如何用WPS转换PDF为Word_WPS PDF转Word格式转换操作教程如何用WPS转换PDF为Word_WPS PDF转Word格式转换操作教程如何用WPS转换PDF为Word_WPS PDF转Word格式转换操作教程如何用WPS转换PDF为Word_WPS PDF转Word格式转换操作教程

    使用WPS在线工具可直接上传PDF并转为Word,适合临时处理;2. WPS桌面版支持批量高精度转换,操作简便;3. 手机端WPS应用实现移动端快速转换与分享;4. 已打开PDF时可通过内置插件一键转为Word,提升效率。 如果您需要将PDF文件转换为可编辑的Word文档,WPS提供了便捷的转换功能…

    2026年9月26日 • 用户投稿
    000
  • qq浏览器安全吗会不会有病毒 QQ浏览器安全性与病毒风险评估

    qq浏览器安全吗会不会有病毒 QQ浏览器安全性与病毒风险评估qq浏览器安全吗会不会有病毒 QQ浏览器安全性与病毒风险评估qq浏览器安全吗会不会有病毒 QQ浏览器安全性与病毒风险评估qq浏览器安全吗会不会有病毒 QQ浏览器安全性与病毒风险评估

    QQ浏览器具备网址安全检测、云查杀和安全铭牌等防护功能,官方渠道下载的版本安全性高,自身携带病毒风险极低。其通过实时更新恶意网站数据库,对访问链接进行风险提示,并在下载时扫描文件安全性。用户应避免安装来源不明的插件,及时更新浏览器以修复漏洞。当出现安全警告时,应优先采信并核对网址真实性,可借助其他浏…

    2026年9月26日 • 用户投稿
    100
  • laravel使用Faker数据填充的方法介绍(代码)

    laravel使用Faker数据填充的方法介绍(代码)laravel使用Faker数据填充的方法介绍(代码)laravel使用Faker数据填充的方法介绍(代码)laravel使用Faker数据填充的方法介绍(代码)

    本篇文章给大家带来的内容是关于laravel使用Faker数据填充的方法介绍(代码),有一定的参考价值,有需要的朋友可以参考一下,希望对你有所帮助。 导语:做开发的时候,添加测试数据是必不可少的,laravel 内置了很方便的数据填充,下面是实例。 数据迁移 先创建数据模型和数据迁移 php art…

    2026年9月26日 • 用户投稿
    000

发表回复

登录后才能评论
关注微信