
本文探讨了在php中循环检查多个外部链接时,使用`get_headers()`可能导致的`err_connection_reset`问题。通过分析同步请求的局限性,文章详细介绍了如何利用curl multi接口实现高效、并发的链接状态检查,从而避免连接重置、提高脚本性能和稳定性。
在开发PHP脚本时,我们经常需要验证远程文件或资源的可用性。一种常见的场景是遍历一系列版本号或ID,检查对应URL是否存在。然而,当采用简单的同步请求方法(如get_headers())进行大量或频繁的外部链接检查时,即使引入了sleep()间隔,也可能遭遇ERR_CONNECTION_RESET错误,导致后续链接无法检查,甚至影响浏览器对这些链接的正常访问。这通常是由于服务器端的连接限制、防火墙规则、客户端连接池耗尽或操作系统层面的TCP连接管理问题所致。
同步请求的局限性与ERR_CONNECTION_RESET
原始的问题描述中,开发者尝试使用get_headers()函数在一个循环中检查多个URL。get_headers()会向指定的URL发送一个HTTP HEAD请求(或GET请求并仅获取头部),等待服务器响应。这个过程是同步阻塞的,意味着在当前请求完成并收到响应之前,脚本会暂停执行。
function checkAllUrlsSynchronously() { $revisionNumber = 25; $minorNumber = 2; $buildNumber = 128; $baseUrl = 'http://update.example.com/Files/Updates/'; for ($x = $buildNumber; $x > 0; $x--) { $combinedUrl = $baseUrl . '6.' . $revisionNumber . '.' . $minorNumber . '.' . $x . '/application7_' . $revisionNumber . '_' . $minorNumber . '_' . $x . '_de_FullInstallerx64.exe'; // 记录日志 file_put_contents('log.txt', "Checking Build: $x - $combinedUrln", FILE_APPEND); $urlHeaders = @get_headers($combinedUrl); if(!$urlHeaders || strpos($urlHeaders[0], '404 Not Found') !== false) { file_put_contents('log.txt', $combinedUrl . " - does not exist.n", FILE_APPEND); } else { file_put_contents('log.txt', $combinedUrl . " - exists.n", FILE_APPEND); } // 即使有延迟,频繁的同步请求仍可能触发问题 sleep(3); }}
尽管代码中加入了sleep(3)来模拟请求间隔,但当请求数量庞大时,仍然可能遇到以下问题:
服务器端限速或IP封锁: 目标服务器可能会检测到来自同一IP地址的频繁请求,并将其视为潜在的恶意行为(如DDoS攻击),从而暂时阻止该IP的进一步连接,导致ERR_CONNECTION_RESET。客户端资源耗尽: 即使服务器不封锁,客户端操作系统或网络栈也可能对短时间内发起的TCP连接数量有限制,或者维持大量半开连接会耗尽资源。连接超时与重置: 如果服务器响应缓慢或网络不稳定,同步请求可能会长时间占用资源,最终导致连接超时并被重置。
这些问题使得同步请求在大规模链接检查场景下变得不可靠且效率低下。
立即学习“PHP免费学习笔记(深入)”;
利用cURL Multi实现高效并发链接检查
为了解决上述问题,PHP提供了cURL扩展的“Multi”接口,允许我们以非阻塞的方式同时管理多个cURL句柄,从而实现并发的HTTP请求。这种方式极大地提高了请求效率,并能更好地应对服务器端的限速策略。
cURL Multi的工作原理是,将多个独立的cURL请求句柄添加到cURL Multi句柄中,然后通过一个循环来轮询这些请求的状态,一旦有请求完成或有数据可用,cURL Multi就会通知脚本进行处理,而无需等待每个请求独立完成。
核心步骤:
初始化cURL Multi句柄: curl_multi_init()创建并配置单个cURL句柄: 对于每个要检查的URL,使用curl_init()创建一个cURL句柄,并通过curl_setopt()设置请求选项。CURLOPT_URL: 设置请求的URL。CURLOPT_FILETIME: 获取文件时间(如果服务器支持)。CURLOPT_NOBODY: 设置为true以发送HEAD请求,只获取响应头,不下载实际内容,这对于检查链接存在性非常高效。CURLOPT_RETURNTRANSFER: 设置为true以将响应作为字符串返回,而不是直接输出。CURLOPT_HEADER: 设置为true以包含响应头到返回字符串中(如果CURLOPT_RETURNTRANSFER为true)。将单个cURL句柄添加到Multi句柄: curl_multi_add_handle()执行并发请求: 使用curl_multi_exec()在一个循环中反复执行,直到所有请求都完成。处理结果: 遍历所有cURL句柄,使用curl_getinfo()获取每个请求的详细信息(如HTTP状态码、有效URL等)。清理: 从Multi句柄中移除单个cURL句柄(curl_multi_remove_handle()),并关闭Multi句柄(curl_multi_close())。
示例代码:
0; $x--) { $combinedUrl = $baseUrl . '6.' . $revisionNumber . '.' . $minorNumber . '.' . $x . '/application7_' . $revisionNumber . '_' . $minorNumber . '_' . $x . '_de_FullInstallerx64.exe'; $curl = curl_init(); curl_setopt($curl, CURLOPT_URL, $combinedUrl); curl_setopt($curl, CURLOPT_FILETIME, true); // 获取文件时间 curl_setopt($curl, CURLOPT_NOBODY, true); // 发送HEAD请求,不下载内容 curl_setopt($curl, CURLOPT_RETURNTRANSFER, true); // 将响应作为字符串返回 curl_setopt($curl, CURLOPT_HEADER, true); // 包含响应头 // 可选:设置连接和执行超时,防止单个请求卡住 curl_setopt($curl, CURLOPT_CONNECTTIMEOUT, 10); // 连接超时10秒 curl_setopt($curl, CURLOPT_TIMEOUT, 30); // 执行超时30秒 // 3. 将单个cURL句柄添加到Multi句柄 curl_multi_add_handle($multiCurl, $curl); $curlHandles[] = ['curl' => $curl, 'build' => $x, 'url' => $combinedUrl]; } // 4. 执行并发请求 $running = null; // 用于跟踪仍在运行的请求数 do { // 执行所有添加到Multi句柄的cURL请求 // $running 会被更新为当前仍在运行的请求数量 curl_multi_exec($multiCurl, $running); // 如果有请求仍在运行,并且没有其他事件发生,可以稍微等待一下 // curl_multi_select() 会阻塞直到有活动发生或超时 if ($running > 0) { curl_multi_select($multiCurl, 0.1); // 最多等待0.1秒 } } while ($running > 0); // 当所有请求都完成后,循环结束 // 5. 处理结果 foreach ($curlHandles as $data) { $curl = $data['curl']; $build = $data['build']; $combinedUrl = $data['url']; file_put_contents('log.txt', "Checking Build: " . $build . "n", FILE_APPEND); $httpCode = curl_getinfo($curl, CURLINFO_HTTP_CODE); // 获取HTTP状态码 // $effectiveUrl = curl_getinfo($curl, CURLINFO_EFFECTIVE_URL); // 获取最终有效URL if ($httpCode === 404) { file_put_contents('log.txt', $combinedUrl . " - does not exist (HTTP 404).n", FILE_APPEND); } else if ($httpCode >= 200 && $httpCode
关键注意事项与最佳实践
资源管理: 务必在所有请求处理完毕后,使用curl_multi_remove_handle()移除每个cURL句柄,并使用curl_close()关闭单个cURL句柄,最后使用curl_multi_close()关闭cURL Multi句柄。这能有效释放系统资源,避免内存泄漏。错误处理: 示例代码中仅检查了HTTP 404状态码。在实际应用中,应更全面地检查HTTP状态码(如2xx表示成功,3xx表示重定向,4xx表示客户端错误,5xx表示服务器错误),以及curl_error()和curl_errno()获取更详细的cURL错误信息。并发度控制: 尽管cURL Multi支持并发,但一次性添加过多的cURL句柄仍然可能对客户端或目标服务器造成压力。对于成千上万个链接的检查,可以考虑分批次处理,例如每次只添加50-100个请求到Multi句柄中,处理完一批再处理下一批。超时设置: CURLOPT_CONNECTTIMEOUT(连接超时)和CURLOPT_TIMEOUT(总执行超时)是防止单个请求无限期挂起的关键设置。合理配置它们可以提高脚本的健壮性。代理支持: 如果需要通过代理进行请求,cURL也提供了相应的选项(CURLOPT_PROXY等)。HEAD请求的优势: 使用CURLOPT_NOBODY => true发送HEAD请求是检查链接存在性的最佳实践,因为它只获取HTTP头,不下载文件内容,大大减少了网络流量和处理时间。
总结
当PHP脚本需要高效、稳定地检查大量外部链接时,放弃同步的get_headers()方法,转而采用cURL Multi接口是解决ERR_CONNECTION_RESET等连接问题的最佳途径。通过并发请求,不仅可以显著提升性能,还能更好地管理网络资源,减少对目标服务器的冲击,从而构建更加健壮和可靠的外部资源验证系统。理解并正确应用cURL Multi的异步机制,是处理复杂网络请求场景的关键技能。
以上就是PHP高效多链接检查与ERR_CONNECTION_RESET解决方案的详细内容,更多请关注php中文网其它相关文章!
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1342388.html
微信扫一扫
支付宝扫一扫