Python中通过API获取地理距离:请求限流与数据整合实践

Python中通过API获取地理距离:请求限流与数据整合实践

本教程详细讲解如何利用Python通过外部API计算地理位置间的驾驶距离,并重点介绍如何实现API请求的限流以遵守服务条款。文章涵盖了API调用函数的构建、基于上下文管理器的智能限流机制、鲁棒的错误处理方法,以及最终将所有数据(包括原始坐标和计算出的距离)整合到Pandas DataFrame中的完整流程,旨在帮助读者高效、稳定地处理大规模地理空间数据请求。

1. 构建地理距离计算API函数

在处理地理空间数据时,我们经常需要计算两点间的实际驾驶距离。这通常通过调用第三方地图服务的api来实现。以下是一个使用osrm(open source routing machine)公共api计算驾驶距离的python函数示例。osrm提供了一个开放且高性能的路由服务,非常适合此类任务。

import requestsimport jsonimport pandas as pdfrom contextlib import contextmanagerfrom time import sleepimport http.client # For HTTPStatusdef get_driving_distance(lat1, lon1, lat2, lon2):    """    通过OSRM API计算两点间的驾驶距离。    参数:    lat1 (float): 起点纬度    lon1 (float): 起点经度    lat2 (float): 终点纬度    lon2 (float): 终点经度    返回:    float: 驾驶距离(英里),如果请求失败则返回None    """    try:        # OSRM API的URL结构:/route/v1/car/{lon1},{lat1};{lon2},{lat2}        url = f"http://router.project-osrm.org/route/v1/car/{lon1},{lat1};{lon2},{lat2}?overview=false"        response = requests.get(url)        # 检查HTTP响应状态码,如果不是2xx则抛出异常        response.raise_for_status()        data = json.loads(response.content)        # 检查API响应中是否有路由信息        if data.get("routes") and len(data["routes"]) > 0:            driving_distance_meters = data["routes"][0]['distance']            # 将米转换为英里 (1 英里 = 1609.34 米)            driving_distance_miles = driving_distance_meters / 1609.34            return driving_distance_miles        else:            print(f"API响应未包含有效路由信息: {data}")            return None    except requests.exceptions.RequestException as e:        print(f"API请求失败: {e}")        return None    except json.JSONDecodeError as e:        print(f"JSON解析失败: {e}")        return None    except KeyError as e:        print(f"API响应结构异常,缺少键: {e}")        return None

注意事项:

坐标顺序: OSRM API通常要求经度在前,纬度在后(lon,lat)。请务必核对您的数据顺序。overview=false: 这个参数可以减少API响应中路由几何信息的详细程度,从而减小响应体大小,提高效率。错误处理: response.raise_for_status() 是一个非常重要的错误处理机制。如果HTTP请求返回的状态码表示错误(例如4xx或5xx),它会自动抛出 requests.exceptions.HTTPError 异常,避免程序在处理无效响应时崩溃。

2. 实现API请求限流机制

当需要进行大量API调用时,为了避免对API服务器造成过大压力或触及API服务提供商的调用限制,实现请求限流(Rate Limiting)至关重要。我们可以利用Python的上下文管理器(contextlib.contextmanager)来优雅地实现这一功能。

# 定义一个全局变量来跟踪API调用次数api_calls = 0@contextmanagerdef rate_limited(limit=500, delay=5):    """    一个上下文管理器,用于限制API调用频率。    当API调用次数达到指定限制时,暂停指定时间。    参数:    limit (int): 在暂停前允许的最大API调用次数。    delay (int): 暂停的秒数。    """    global api_calls    # 检查是否即将超过限制    if api_calls + 1 >= limit:        print(f"达到 {limit} 次API调用限制,暂停 {delay} 秒...")        sleep(delay)        # 暂停后,重置计数器(或减去已处理的批次)        api_calls = 0 # 简单重置,也可以 api_calls -= limit    api_calls += 1    yield # 执行被包装的代码    # 上下文退出时,无需额外操作# 更新 get_driving_distance 函数以集成限流def get_driving_distance_with_rate_limit(lat1, lon1, lat2, lon2):    """    通过OSRM API计算两点间的驾驶距离,并集成请求限流。    """    with rate_limited(): # 在这里应用限流        return get_driving_distance(lat1, lon1, lat2, lon2)

工作原理:

api_calls:一个全局计数器,记录当前批次的API调用次数。rate_limited 上下文管理器:在进入 with 块之前,它会检查 api_calls 是否接近 limit。如果接近,则调用 time.sleep(delay) 暂停执行。暂停后,api_calls 被重置(或相应调整),以便新的批次可以开始计数。api_calls 每次进入 with 块时都会递增。yield 关键字使得被包装的代码(即 get_driving_distance 的内容)得以执行。通过将 get_driving_distance 函数包裹在 with rate_limited(): 语句中,每次调用该函数时都会自动触发限流逻辑。

3. 数据整合至Pandas DataFrame

最终目标是将原始的地理坐标数据与计算出的驾驶距离整合到一个结构化的Pandas DataFrame中,方便后续的数据分析和可视化。

立即学习“Python免费学习笔记(深入)”;

假设我们有四组列表数据:起点纬度、起点经度、终点纬度、终点经度。

# 示例数据location_latitudes = [51.5074, 40.7128, 34.0522]location_longitudes = [-0.1278, -74.0060, -118.2437]station_latitudes = [51.5154, 40.7580, 34.0522]station_longitudes = [-0.0920, -73.9855, -118.2437]# 存储计算出的距离driving_distances = []# 遍历数据并计算距离for i in range(len(location_latitudes)):    lat1 = location_latitudes[i]    lon1 = location_longitudes[i]    lat2 = station_latitudes[i]    lon2 = station_longitudes[i]    distance = get_driving_distance_with_rate_limit(lat1, lon1, lat2, lon2)    driving_distances.append(distance)    # 打印进度(可选)    print(f"处理第 {i+1} 对坐标: ({lat1},{lon1}) -> ({lat2},{lon2}), 距离: {distance:.2f} 英里")# 创建DataFramedata = {    'Location_Lat': location_latitudes,    'Location_Lon': location_longitudes,    'Station_Lat': station_latitudes,    'Station_Lon': station_longitudes,    'Driving_Distance_Miles': driving_distances}df = pd.DataFrame(data)print("n最终生成的DataFrame:")print(df)

代码说明:

准备数据: 示例中创建了四个列表,分别代表起点和终点的经纬度。在实际应用中,这些数据可能来自CSV文件、数据库或其它数据源。迭代计算: 通过循环遍历这些列表,对每一对坐标调用 get_driving_distance_with_rate_limit 函数,并将返回的距离存储在 driving_distances 列表中。构建DataFrame: 使用一个字典来组织所有相关数据(原始坐标和计算出的距离),然后将其传递给 pd.DataFrame() 构造函数,即可生成一个结构化的DataFrame。

4. 总结与最佳实践

本教程展示了如何结合Python的 requests 库、上下文管理器以及Pandas库,高效且稳定地处理地理距离计算任务。以下是一些额外的最佳实践和考虑事项:

更健壮的错误处理: 对于生产环境应用,除了 raise_for_status() 外,还可以考虑实现重试机制(例如使用 tenacity 库),尤其是在面对临时性网络问题或API服务波动时。持久化数据: 对于大量API调用,建议将中间结果定期保存到文件(如CSV、JSON),以防程序中断或网络问题导致数据丢失,避免重复昂贵的API请求。API密钥管理: 如果您使用的是需要API密钥的商业地图服务(如Google Maps API),请务必妥善管理您的密钥,不要将其硬编码在代码中。可以使用环境变量或配置文件来存储。异步请求: 对于极其庞大的数据集,可以考虑使用异步请求库(如 aiohttp)来并发地发送API请求,进一步提高效率,但这会增加代码的复杂性。遵守API服务条款: 始终阅读并遵守您所使用的API服务提供商的条款和条件,包括请求限制、使用范围等。不当使用可能导致IP被封禁或账户被禁用。选择合适的API: OSRM是一个优秀的开源选择,但对于需要更高级功能(如交通信息、路线优化、地理编码等)或更高请求限制的场景,可能需要考虑商业API服务。

通过遵循这些指导原则,您可以构建出稳定、高效且符合规范的地理空间数据处理应用程序。

以上就是Python中通过API获取地理距离:请求限流与数据整合实践的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1366980.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 07:01:28
下一篇 2025年12月14日 07:01:45

相关推荐

  • Python批量API请求处理:数据整合、限流与错误管理

    本文旨在指导如何使用Python高效地处理批量API请求,特别是当输入数据来源于多个列表时。我们将重点探讨如何将这些数据整合、如何通过自定义上下文管理器实现API请求的速率限制,以及如何确保请求的健壮性,通过错误处理机制提升代码的可靠性,最终将结果结构化为Pandas DataFrame。 1. 批…

    好文分享 2025年12月14日
    000
  • 通过Python实现API请求限速与批量地理距离计算

    本教程详细介绍了如何使用Python高效且负责任地通过API计算两点间的驾驶距离。文章从基础的API调用函数出发,深入探讨了利用contextlib模块实现API请求限速的策略,以避免因请求频率过高而被服务器拒绝。此外,教程还强调了API响应错误处理的重要性,并提供了将计算结果整合到Pandas D…

    2025年12月14日
    000
  • 解决Windows上Python安装jq库失败的问题

    本文针对Windows用户在使用Python的Langchain库中JSONLoader时,因jq库安装失败(常见错误为Failed to build jq)的问题,提供了一套有效的解决方案。核心方法是利用预编译的.whl文件进行离线安装,详细指导了下载和安装步骤,并强调了使用该方案的注意事项和潜在…

    2025年12月14日
    000
  • 使用Python通过API计算地理距离:数据整合与API速率限制实践

    本文旨在指导读者如何使用Python高效地通过外部API计算地理位置间的驾驶距离。内容涵盖了从多源列表数据中提取信息、构建API请求、集成OSRM路由服务进行距离计算的核心方法,并重点介绍了如何利用Python的contextlib.contextmanager实现健壮的API请求速率限制机制,以避…

    2025年12月14日
    000
  • Python批量API调用与限流策略:高效处理多源地理数据

    本文详细介绍了如何使用Python处理来自多个列表的地理坐标数据,并通过API批量计算驾驶距离。核心内容包括利用zip函数高效迭代多组坐标,集成requests库进行API调用,以及通过自定义上下文管理器实现API请求的智能限流,确保程序稳定运行并遵守API服务条款。文章还强调了API响应错误处理的…

    2025年12月14日
    000
  • Python中如何检测不兼容的类型比较操作?

    1.最靠谱的解决python中不兼容类型比较的方法是使用静态类型检查工具如mypy;2.通过类型提示明确变量、函数参数和返回值的类型;3.mypy会在代码运行前分析类型是否匹配,提前发现潜在问题;4.相比运行时错误处理,静态检查能更早发现问题并减少调试成本;5.对于自定义类,需合理实现__eq__、…

    2025年12月14日 好文分享
    000
  • Python屏蔽输出信息如何在异常处理中隐藏堆栈信息 Python屏蔽输出信息的堆栈信息管控方法​

    使用logging模块记录异常,通过配置不同handler分别向用户输出简洁错误信息、向开发者记录完整堆栈;2. 自定义sys.excepthook以控制未捕获异常的输出行为,屏蔽堆栈并显示友好提示;3. 临时重定向sys.stderr以完全抑制标准错误输出,适用于特定代码块;4. 通过调整第三方库…

    2025年12月14日
    000
  • Snakemake动态参数管理:链式依赖与函数封装实践

    本文旨在解决Snakemake规则中参数链式依赖的问题,即一个params参数需要依赖于同规则中其他params参数的值。直接在params块内进行链式引用会导致NameError。核心解决方案是利用Python函数封装复杂的参数推导逻辑,将所有依赖关系整合到一个可调用对象中,并通过wildcard…

    2025年12月14日
    000
  • 运行Python脚本如何处理执行时出现的语法错误 运行Python脚本的语法错误解决方法

    解读python语法错误信息时,首先要查看错误类型和行号,例如syntaxerror: invalid syntax表示语法无效,需检查对应行的代码;2. 常见的语法错误包括拼写错误、缺少冒号、缩进错误、括号或引号不匹配、使用保留字作为变量名、使用未定义变量以及除零错误等;3. 调试方法包括仔细阅读…

    2025年12月14日
    000
  • Keras模型训练与评估精度不一致问题解析与解决方案

    本文深入探讨了Keras模型在训练过程中(model.fit)报告的精度与模型评估(model.evaluate)精度不一致的常见问题。通过分析两者计算机制的差异,特别是批量更新和指标聚合方式,揭示了产生差异的根本原因。文章提供了通过引入validation_data并在自定义回调中监控val_ac…

    2025年12月14日
    000
  • 高效管理PyADS通知与大规模数据采集

    本文旨在深入探讨如何利用Python的PyADS库高效地从倍福PLC获取实时数据,特别是针对高频、大规模数据采集场景。我们将重点介绍如何通过面向对象的方法(类)来管理回调函数的内部状态和累积数据,从而避免使用全局变量,并提供性能优化策略,尤其是在处理同类型大量数据时,通过自定义字节解析结合NumPy…

    2025年12月14日
    000
  • PyADS通知回调函数中高效处理PLC数据:基于类的解决方案

    本教程探讨如何在PyADS应用中,高效且Pythonic地处理来自PLC的实时、大批量通知数据,避免使用全局变量。通过引入基于类的回调函数管理模式,文章详细阐述了如何将回调数据安全地集成到应用程序状态中,并提供了优化数据转换性能的策略,尤其适用于高吞吐量的数据采集场景。 1. 引言:PyADS通知与…

    2025年12月14日
    000
  • 使用 Polars 高效计算 DataFrame 中按 ID 分组的时间间隔

    本文详细阐述了如何利用 Polars 库的窗口函数 pl.Expr.over(),高效地计算 Pandas 或 Polars DataFrame 中每个独立标识符(ID)内部连续事件之间的时间间隔。通过避免传统的 map 或 apply 操作,我们展示了如何利用 Polars 原生表达式 API,结…

    2025年12月14日
    000
  • 利用Python与PyMuPDF库批量向多层目录下的PDF文件追加或插入指定页面

    本教程详细介绍了如何使用Python的PyMuPDF(fitz)库,高效地批量处理位于多层文件夹中的PDF文件。核心内容包括遍历指定目录下的所有PDF文件,将一个或多个预设的PDF页面追加到现有PDF的末尾,或精确插入到指定位置。教程提供了清晰的示例代码,并强调了内存处理、性能优化及注意事项,帮助用…

    2025年12月14日
    000
  • Snakemake中链式参数的动态生成与应用

    本文旨在深入探讨Snakemake中如何正确实现参数的链式引用与动态生成,特别是当参数值依赖于通配符(wildcards)或先前定义的动态值时。我们将解释直接引用失败的原因,并提供一种健壮的解决方案:通过定义可调用函数(callable functions)来延迟参数的评估,确保在作业执行时能够正确…

    2025年12月14日
    000
  • Python中深度合并嵌套字典的技巧:使用自定义ChainMap实现

    在Python编程中,我们经常需要合并多个字典。对于简单的字典合并,Python提供了多种方法,例如使用dict.update()、字典解包运算符**或collections.ChainMap。然而,当字典的值本身也是字典,并且我们希望对这些内层字典也进行合并时,传统的浅层合并方法就显得力不从心了。…

    2025年12月14日
    000
  • 高效管理Pyads通知回调与大规模数据处理

    本文旨在探讨在Pyads应用中,如何高效处理来自PLC的ADS通知回调数据,特别是在处理大量、高频数据时,避免使用全局变量,并采用Pythonic的类封装方法管理状态。同时,文章还将深入讲解如何优化字节数据到Python类型的转换,以提升大规模数据处理的性能。 Pyads通知机制与数据处理挑战 py…

    2025年12月14日
    000
  • Python中利用自定义DeepChainMap实现嵌套字典的深度合并

    本文深入探讨了如何利用Python的collections.ChainMap实现嵌套字典的深度合并。针对ChainMap默认只合并顶层键值对,无法处理相同键下仍为字典的场景,我们通过自定义DeepChainMap类,重写其__getitem__方法,使其能够递归地合并嵌套的字典结构。这提供了一种灵活…

    2025年12月14日
    000
  • 解决SQLAlchemy/SQLModel中UUID主键自动映射为字符串的问题

    本教程旨在解决SQLAlchemy和SQLModel中常见的UUID主键在从数据库检索时被错误地映射为Python字符串类型而非uuid.UUID对象的问题。文章将深入剖析问题根源,并提供一个基于sqlalchemy.types.TypeDecorator的通用解决方案,通过自定义类型确保UUID在…

    2025年12月14日
    000
  • Python如何操作Elasticsearch?elasticsearch-py

    使用elasticsearch-py是python操作elasticsearch最官方直接的方式。1. 首先通过pip install elasticsearch安装库;2. 导入elasticsearch类并实例化客户端连接本地或远程实例;3. 使用ping()方法检测连接状态;4. 调用inde…

    2025年12月14日
    000

发表回复

登录后才能评论
关注微信