将Google API响应对象转换为Pandas DataFrame的实用指南

将Google API响应对象转换为Pandas DataFrame的实用指南

本文旨在提供一种将Google Analytics Admin API的ListCustomDimensionsPager响应对象转换为Pandas DataFrame的有效方法。当API响应不是标准JSON或字典格式,且无法直接序列化时,本教程通过迭代响应、进行字符串格式化和JSON解析,最终构建出结构化的DataFrame,帮助用户高效处理API返回的数据。

1. 理解问题:API响应对象的挑战

在使用google analytics admin api(或其他基于grpc或protobuf的api)时,通常会遇到其响应对象并非标准的python字典或列表,也无法直接进行json序列化。例如,admin_v1beta.analyticsadminserviceclient().list_custom_dimensions() 方法返回的是一个 listcustomdimensionspager 类型的对象。

from google.analytics.admin import admin_v1betaimport pandas as pdimport jsondef get_custom_dimensions_raw(property_filter):    """    获取Google Analytics自定义维度原始API响应。    """    client = admin_v1beta.AnalyticsAdminServiceClient()    request = admin_v1beta.ListCustomDimensionsRequest(        parent=property_filter    )    return client.list_custom_dimensions(request=request)# 示例调用# ga4_custom_dimensions = get_custom_dimensions_raw("properties/YOUR_PROPERTY_ID")# print(type(ga4_custom_dimensions))# 

直接尝试将此类对象转换为JSON(如 json.dumps(ga4_custom_dimensions.__dict__) 或 json.dumps(vars(ga4_custom_dimensions)))会导致 TypeError: Object of type _GapicCallable is not JSON serializable。同样,pd.json_normalize() 或直接的字典式索引(如 ga4_custom_dimensions[‘custom_dimensions’])也无法奏效,因为 ListCustomDimensionsPager 对象不支持这些操作。

问题的核心在于,ListCustomDimensionsPager 是一个迭代器,其内部的每个元素是 CustomDimension 类型的protobuf消息对象,虽然其 __dict__ 属性包含了数据,但格式并非标准的JSON字符串,且包含内部私有属性和非标准键值对表示,导致无法直接解析。

2. 解决方案:迭代、字符串格式化与JSON解析

解决此问题的方法是迭代 ListCustomDimensionsPager 对象,对每个 CustomDimension 消息对象进行处理。由于直接序列化失败,我们可以利用其 __dict__ 属性的字符串表示,通过一系列字符串替换操作将其转换为有效的JSON格式,然后使用 json.loads() 解析,最终构建Pandas DataFrame。

以下是详细的步骤和代码实现:

2.1 核心处理函数

from google.analytics.admin import admin_v1betaimport pandas as pdimport jsondef get_custom_dimensions_dataframe(property_filter):    """    从Google Analytics Admin API获取自定义维度,并将其转换为Pandas DataFrame。    参数:        property_filter (str): GA4媒体资源ID,格式为 "properties/YOUR_PROPERTY_ID"。    返回:        pd.DataFrame: 包含自定义维度数据的DataFrame。    """    client = admin_v1beta.AnalyticsAdminServiceClient()    request = admin_v1beta.ListCustomDimensionsRequest(        parent=property_filter    )    # 获取原始API响应,这是一个可迭代的Pager对象    full_response_pager = client.list_custom_dimensions(request=request)    df_list = []    # 遍历Pager中的每个CustomDimension对象    for response_item in full_response_pager:        # 1. 获取对象的内部字典表示        step1 = response_item.__dict__        # 2. 将字典转换为字符串,这是进行字符串替换的基础        step2 = str(step1)        # 3. 执行一系列字符串替换,将非标准的键值对格式转换为有效的JSON格式        # 原始字符串中键没有引号,值如果是字符串也没有引号,布尔值/枚举值也需要特殊处理。        # 移除内部的'_pb'属性,因为它不是我们关心的数据,且可能干扰JSON解析。        step3 = step2.replace(': name:', ': "name" :')        step4 = step3.replace('parameter_name:', ', "parameter_name" :')        step5 = step4.replace('display_name:', ', "display_name" :')        step6 = step5.replace('description:', ', "description" :')        step7 = step6.replace('scope:', ', "scope" :')        step8 = step7.replace('disallow_ads_personalization: true', ', "disallow_ads_personalization" : "true"')        step9 = step8.replace("'_pb': ", "") # 移除内部私有属性        step10 = step9.replace(' : EVENT', ' : "EVENT"') # 为枚举值添加引号        step11 = step10.replace(' : USER', ' : "USER"')   # 为枚举值添加引号        # 4. 处理Unicode转义字符:        # 有时字符串中可能包含形如 'xXX' 的转义字符,需要先编码为UTF-8,再解码为Unicode字符串。        step12 = step11.encode('utf-8').decode('unicode_escape')        # 5. 将处理后的字符串加载为JSON对象        # 注意:此时的字符串应该是一个有效的JSON格式的字典字符串        try:            step13 = json.loads(step12)            df_list.append(step13)        except json.JSONDecodeError as e:            print(f"JSON解析错误: {e}")            print(f"问题字符串: {step12}")            # 可以选择跳过此项或记录错误            continue    # 6. 从JSON对象列表创建Pandas DataFrame    return pd.DataFrame(df_list)

2.2 使用示例

# 替换为您的GA4媒体资源IDGA4_PROPERTY_ID = "YOUR_PROPERTY_ID" # 调用函数获取DataFramecustom_dimension_df = get_custom_dimensions_dataframe(f"properties/{GA4_PROPERTY_ID}")# 打印DataFrame的前几行和信息print(custom_dimension_df.head())print("nDataFrame信息:")custom_dimension_df.info()# 示例:保存到CSV文件# custom_dimension_df.to_csv("ga4_custom_dimensions.csv", index=False, encoding="utf-8")

3. 注意事项与总结

字符串替换的局限性: 这种通过字符串替换来构造JSON的方法虽然有效,但并不“优雅”,且对原始字符串的格式高度敏感。如果API响应的内部字符串表示发生变化,可能需要调整 str.replace() 步骤。字段完整性: 上述代码仅处理了 name, parameter_name, display_name, description, scope, disallow_ads_personalization 等字段。如果 CustomDimension 对象包含其他字段,且您需要将其纳入DataFrame,则需要添加相应的 str.replace() 规则。错误处理: 增加了 try-except 块来捕获 json.JSONDecodeError,这在处理API响应时是良好的实践,以防某个响应项的字符串格式未能被完全纠正。替代方案(若API支持): 理想情况下,API响应对象会提供 .to_dict() 或 .to_json() 等方法,直接将对象转换为Python字典或JSON字符串。在没有这些便捷方法时,上述字符串替换方案提供了一种可行的“黑箱”处理方式。性能考量: 对于大量数据,字符串替换操作可能相对耗时。然而,对于大多数Google Analytics Admin API的使用场景,自定义维度数量通常有限,因此性能影响可以接受。

通过上述方法,您可以成功地将Google Analytics Admin API返回的复杂响应对象转换为易于分析和处理的Pandas DataFrame,从而更好地利用您的GA4数据。

以上就是将Google API响应对象转换为Pandas DataFrame的实用指南的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1376785.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 16:12:26
下一篇 2025年12月14日 16:12:41

相关推荐

  • 如何解决本地图片在使用 mask JS 库时出现的跨域错误?

    如何跨越localhost使用本地图片? 问题: 在本地使用mask js库时,引入本地图片会报跨域错误。 解决方案: 要解决此问题,需要使用本地服务器启动文件,以http或https协议访问图片,而不是使用file://协议。例如: python -m http.server 8000 然后,可以…

    2025年12月24日
    200
  • 使用 Mask 导入本地图片时,如何解决跨域问题?

    跨域疑难:如何解决 mask 引入本地图片产生的跨域问题? 在使用 mask 导入本地图片时,你可能会遇到令人沮丧的跨域错误。为什么会出现跨域问题呢?让我们深入了解一下: mask 框架假设你以 http(s) 协议加载你的 html 文件,而当使用 file:// 协议打开本地文件时,就会产生跨域…

    2025年12月24日
    200
  • 如何直接访问 Sass 地图变量的值?

    直接访问 sass 地图变量的值 在 sass 中,我们可以使用地图变量来存储一组键值对。而有时候,我们可能需要直接访问其中的某个值。 可以通过 map-get 函数直接从地图中获取特定的值。语法如下: map-get($map, $key) 其中: $map 是我们要获取值的 sass 地图变量。…

    2025年12月24日
    000
  • 正则表达式在文本验证中的常见问题有哪些?

    正则表达式助力文本输入验证 在文本输入框的验证中,经常遇到需要限定输入内容的情况。例如,输入框只能输入整数,第一位可以为负号。对于不会使用正则表达式的人来说,这可能是个难题。下面我们将提供三种正则表达式,分别满足不同的验证要求。 1. 可选负号,任意数量数字 如果输入框中允许第一位为负号,后面可输入…

    2025年12月24日
    000
  • 为什么多年的经验让我选择全栈而不是平均栈

    在全栈和平均栈开发方面工作了 6 年多,我可以告诉您,虽然这两种方法都是流行且有效的方法,但它们满足不同的需求,并且有自己的优点和缺点。这两个堆栈都可以帮助您创建 Web 应用程序,但它们的实现方式却截然不同。如果您在两者之间难以选择,我希望我在两者之间的经验能给您一些有用的见解。 在这篇文章中,我…

    2025年12月24日
    000
  • 我如何编写 CSS 选择器

    CSS 方法有很多,但我都讨厌它们。有些多(顺风等),有些少(BEM、OOCSS 等)。但归根结底,它们都有缺陷。 当然,人们使用这些方法有充分的理由,并且解决的许多问题我也遇到过。因此,在这篇文章中,我想写下我自己的关于如何保持 CSS 井井有条的指南。 这并不是一个任何人都可以开始使用的完整描述…

    2025年12月24日
    000
  • 姜戈顺风

    本教程演示如何在新项目中从头开始配置 django 和 tailwindcss。 django 设置 创建一个名为 .venv 的新虚拟环境。 # windows$ python -m venv .venv$ .venvscriptsactivate.ps1(.venv) $# macos/linu…

    2025年12月24日
    000
  • 花 $o 学习这些编程语言或免费

    → Python → JavaScript → Java → C# → 红宝石 → 斯威夫特 → 科特林 → C++ → PHP → 出发 → R → 打字稿 []https://x.com/e_opore/status/1811567830594388315?t=_j4nncuiy2wfbm7ic…

    2025年12月24日
    000
  • 深入理解CSS框架与JS之间的关系

    深入理解CSS框架与JS之间的关系 在现代web开发中,CSS框架和JavaScript (JS) 是两个常用的工具。CSS框架通过提供一系列样式和布局选项,可以帮助我们快速构建美观的网页。而JS则提供了一套功能强大的脚本语言,可以为网页添加交互和动态效果。本文将深入探讨CSS框架和JS之间的关系,…

    2025年12月24日
    000
  • HTML+CSS+JS实现雪花飘扬(代码分享)

    使用html+css+js如何实现下雪特效?下面本篇文章给大家分享一个html+css+js实现雪花飘扬的示例,希望对大家有所帮助。 很多南方的小伙伴可能没怎么见过或者从来没见过下雪,今天我给大家带来一个小Demo,模拟了下雪场景,首先让我们看一下运行效果 可以点击看看在线运行:http://hai…

    2025年12月24日 好文分享
    500
  • 10款好看且实用的文字动画特效,让你的页面更吸引人!

    图片和文字是网页不可缺少的组成部分,图片运用得当可以让网页变得生动,但普通的文字不行。那么就可以给文字添加一些样式,实现一下好看的文字效果,让页面变得更交互,更吸引人。下面创想鸟就来给大家分享10款文字动画特效,好看且实用,快来收藏吧! 1、网页玻璃文字动画特效 模板简介:使用css3制作网页渐变底…

    2025年12月24日 好文分享
    000
  • tp5如何引入css文件

    tp5引入css文件的方法:1、将css文件放在public目录下的static文件里即可;2、在页面引入中写上“”语句即可。 本教程操作环境:windows7系统、CSS3&&HTML5版、Dell G3电脑。 其实很简单,只需要将css,js,image文件放在这个目录下即可 页…

    2025年12月24日
    000
  • 聊聊CSS 与 JS 是如何阻塞 DOM 解析和渲染的

    本篇文章给大家介绍一下css和js阻塞 dom 解析和渲染的原理。有一定的参考价值,有需要的朋友可以参考一下,希望对大家有所帮助。 hello~各位亲爱的看官老爷们大家好。估计大家都听过,尽量将CSS放头部,JS放底部,这样可以提高页面的性能。然而,为什么呢?大家有考虑过么?很长一段时间,我都是知其…

    2025年12月24日
    200
  • js如何修改css样式

    js修改css样式的方法:1、使用【obj.className】来修改样式表的类名;2、使用【obj.style.cssTest】来修改嵌入式的css;3、使用【obj.className】来修改样式表的类名;4、使用更改外联的css。 本教程操作环境:windows7系统、css3版,DELL G…

    2025年12月24日
    000
  • 如何使用纯CSS、JS实现图片轮播效果

    本篇文章给大家详细介绍一下使用纯css、js实现图片轮播效果的方法。有一定的参考价值,有需要的朋友可以参考一下,希望对大家有所帮助。 .carousel {width: 648px;height: 400px;margin: 0 auto;text-align: center;position: a…

    2025年12月24日
    000
  • css怎么设置文件编码

    在css中,可以使用“@charset”规则来设置编码,语法格式“@charset “字符编码类型”;”。“@charset”规则可以指定样式表中使用的字符编码,它必须是样式表中的第一个元素,并且不能以任何字符开头。 本教程操作环境:windows7系统、CSS3&&…

    2025年12月24日
    000
  • js如何修改css

    js修改css的方法:1、使用【obj.style.cssTest】来修改嵌入式的css;2、使用【bj.className】来修改样式表的类名;3、使用更改外联的css文件,从而改变元素的css。 本教程操作环境:windows7系统、css3版,DELL G3电脑。 js修改css的方法: 方法…

    2025年12月24日
    000
  • js如何改变css样式

    js改变css样式的方法:1、使用cssText方法;2、使用【setProperty()】方法;3、使用css属性对应的style属性。 本教程操作环境:windows7系统、css3版,DELL G3电脑。 js改变css样式的方法: 第一种:用cssText div.style.cssText…

    2025年12月24日
    000
  • 为什么css放上面js放下面

    css放上面js放下面的原因:1、在加载html生成DOM tree的时候,可以同时对DOM tree进行渲染,这样可以防止闪跳,白屏或者布局混乱;2、javascript加载后会立即执行,同时会阻塞后面的资源加载。 本文操作环境:Windows7系统、HTML5&&CSS3版,DE…

    2025年12月24日
    000
  • 推荐六款移动端 UI 框架

    作为一个前端人员来说,总结几款相对来说不错的用于移动端开发的UI框架是非常必要的,以下几种移动端UI框架就能基本满足工作中开发需要,根据项目需求,选用合适的框架搭建项目,更能容易提高开发效率。 一、MUI         最接近原生APP体验的高性能前端框架,追求性能体验,是我们开始启动MUI项目的…

    2025年12月24日
    000

发表回复

登录后才能评论
关注微信