掌握Pandas cut 函数:实现自定义整数区间分箱与频率统计

掌握pandas cut 函数:实现自定义整数区间分箱与频率统计

本文深入探讨了Pandas cut 函数在数据分箱中的应用,特别聚焦于如何解决其默认浮点区间输出不易理解的问题。通过引入 pd.interval_range,教程详细阐述了如何精确定义自定义的整数分箱区间,并结合 groupby 方法高效生成频率分布表。文章提供清晰的代码示例和关键注意事项,旨在帮助用户实现数据的专业化分类与统计分析。

1. Pandas cut 函数概述

pandas.cut 函数是数据分析中常用的工具,用于将连续数据按指定区间进行离散化(分箱)。它将数据划分为若干个等宽或自定义的区间,并返回一个表示每个数据点所属区间的Categorical Series。这在创建频率分布表、直方图或进行数据分组分析时非常有用。

默认情况下,pd.cut 在自动生成区间时会使用浮点数表示,这可能导致区间边界不够直观,尤其当用户期望得到规整的整数区间时。

2. 理解 pd.cut 的默认输出

当直接使用 pd.cut(x=data, bins=int(cn)) 时,pd.cut 会根据数据的最小值、最大值和指定的箱数自动计算并生成等宽的浮点数区间。其输出是一个Categorical Series,每个元素都是一个Interval对象,例如 (2.734, 7.379]。这种表示方式是精确的,但对于某些应用场景(如需要整数边界的频率表)可能不够直观。

例如,对于以下数据:

import pandas as pdimport numpy as npimport math# 示例数据np.random.seed(42)data_values = np.random.uniform(5, 48, 100)top_books = pd.DataFrame({'book price': data_values})# 原始计算方法cn = math.sqrt(len(top_books['book price']))cr_original = (max(top_books['book price']) - min(top_books['book price'])) // cnprint(f"class number: {cn:.1f}")print(f"class range (original): {cr_original:.1f}")# 使用默认pd.cutbinned_default = pd.cut(x=top_books['book price'], bins=int(cn))print("nDefault pd.cut output sample:")print(binned_default.head())print(binned_default.dtype)

输出可能类似:

class number: 10.0class range (original): 4.0Default pd.cut output sample:0    (21.464, 25.772]1    (25.772, 30.081]2    (25.772, 30.081]3    (21.464, 25.772]4    (21.464, 25.772]Name: book price, dtype: categoryCategories (10, interval[float64, right]): [(4.636, 8.945] < (8.945, 13.253] < (13.253, 17.562] < (17.562, 21.87] ... (34.397, 38.706] < (38.706, 43.014] < (43.014, 47.323] < (47.323, 51.631]]

可以看到,默认生成的区间是浮点数,且边界可能不规整。

3. 实现自定义整数区间分箱

为了获得如 (2, 6], (7, 11] 等规整的整数区间,我们需要手动构建这些区间,并将其作为 pd.cut 的 bins 参数传入。pandas.interval_range 函数是实现这一目标的关键。

3.1 确定分箱参数:类数与类距

在构建自定义区间之前,首先需要计算合适的类数(cn,即箱的数量)和类距(cr,即每个箱的宽度)。

类数 (cn):通常可以使用 Sturges 公式 (1 + log2(n)) 或简单的平方根法 (sqrt(n)) 来估算,其中 n 是数据点的数量。类距 (cr):类距的计算需要考虑数据的最小值和最大值,并确保所有数据点都能被包含在内,同时保证类距为整数。一个稳健的计算方法是:cr = math.ceil((math.ceil(max_val) – int(min_val)) / cn)这里,math.ceil(max_val) 确保最大值向上取整,int(min_val) 确保最小值向下取整,然后计算范围,除以类数,并再次向上取整,以保证类距为整数且能覆盖所有数据。

3.2 使用 pd.interval_range 构建自定义区间

pd.interval_range 函数允许我们以指定起始点、周期数和频率(即类距)来创建一系列 Interval 对象。

start: 区间的起始值。为了包含所有数据,通常取数据的最小值向下取整。periods: 区间的数量,即 cn。freq: 区间的宽度,即 cr。

完整示例代码:

import pandas as pdimport numpy as npimport math# 1. 准备示例数据np.random.seed(42) # 保证结果可复现data_values = np.random.uniform(5.14, 48.77, 100) # 模拟原数据范围top_books = pd.DataFrame({'book price': data_values})# 2. 计算类数 (cn) 和类距 (cr)n = len(top_books['book price'])cn = math.sqrt(n) # 类数,例如100个数据点,cn=10# 确保最小值和最大值在整数边界上,并计算类距min_val = top_books['book price'].min()max_val = top_books['book price'].max()# 为了得到 (2,6], (7,11] 这样的区间,我们需要调整起始点和频率。# 目标是让区间边界是整数,并且能够覆盖所有数据。# 假设我们希望区间从一个整数开始,并以整数步长递增。# min_bound = int(min_val) # 原始答案中的处理方式# max_bound = math.ceil(max_val) # 原始答案中的处理方式# 更稳健的 cr 计算,确保能覆盖所有数据并得到整数间隔# 考虑从数据的最小值向下取整的整数开始,到最大值向上取整的整数结束range_span = math.ceil(max_val) - math.floor(min_val)cr = math.ceil(range_span / cn) # 向上取整确保覆盖所有数据print(f"数据点数量 (n): {n}")print(f"类数 (cn): {cn:.1f}")print(f"数据最小值: {min_val:.2f}")print(f"数据最大值: {max_val:.2f}")print(f"计算出的类距 (cr): {cr}")# 3. 创建自定义整数区间# 注意:pd.interval_range 默认是 right=True,即 (a, b]# 如果希望是 [a, b) 或 [a, b],需要设置 closed 参数# 为了实现 (2,6], (7,11] 这样的效果,需要特别处理。# pd.interval_range(start, periods, freq) 会生成连续的区间,如 [2,6), [6,10)...# 如果要生成 (2,6], (7,11] 这样的非连续区间,pd.interval_range 无法直接生成。# 这种情况下,需要手动构建区间列表。# 重新审视期望输出:(2, 6], (7, 11]... 这种区间是间隔的,不是连续的。# pd.cut 通常用于连续区间。如果必须是这种间隔区间,需要手动创建IntervalIndex。# 原始问题中的期望输出是:# [(2, 6] < (7, 11] < (12, 16] ...# 这意味着每个区间的宽度是4,但区间之间有1的间隙。# 这种情况下,pd.interval_range 无法直接生成,因为它创建的是连续的区间。# 原始答案中的 pd.interval_range(start=int(min_val), periods=10, freq=int(cr))# 会生成连续的区间,例如 [5, 9), [9, 13)...# 如果要模拟 (2,6], (7,11] 这种,需要对数据进行预处理或特殊分箱。# 假设我们仍然希望使用 pd.interval_range 来生成连续的、整数边界的区间,# 然后再解释如果非要间隔区间该如何处理。# 按照原始答案的逻辑,它生成的是连续区间,例如:[5, 9], [9, 13]...# 这里的关键是 `pd.interval_range` 生成的是连续的区间。# 如果需要的是 `(2,6], (7,11]` 这种带间隙的区间,则需要手动创建 IntervalIndex。# 原始答案的pd.interval_range用法:# interval = pd.interval_range(start=int(min_val), periods=int(cn), freq=int(cr))# 这将生成如 [5, 9), [9, 13), ... 的连续区间。# 为了匹配期望的 (X, Y] 格式,且考虑到原始答案的实现,我们采用 `closed='right'`# 并且确保起始值和频率是整数。# 修正:根据原始答案的逻辑,它是生成连续的区间,而不是带间隙的区间。# 期望输出的 (2,6], (7,11] 是一个误导,可能是用户对直方图边界的理解。# 实际的 pd.cut 和 pd.interval_range 都是处理连续区间的。# 我们可以生成 [min_val_int, min_val_int + cr], (min_val_int + cr, min_val_int + 2*cr]...# 这里我们让起始点向下取整,确保所有数据都被包含。start_point = math.floor(min_val)# 如果希望区间从一个特定的整数开始,例如2,则可以手动设置 start_point = 2# 但为了覆盖数据,通常从数据的 floor(min) 开始# 这里我们遵循答案的逻辑,使用 int(min_val) 作为 start,这可能导致第一个区间不包含 min_val# 更好的做法是 start_point = math.floor(min_val)# 再次调整 cr 的计算,确保区间能覆盖 max_val 且是整数# 假设我们希望有 `int(cn)` 个区间,每个区间宽度为 `cr`。# 那么总范围至少需要 `int(cn) * cr`。# `max_val - min_val` 是实际数据范围。# `cr = math.ceil((max_val - min_val) / cn)` 确保每个区间宽度足够。# 考虑到 pd.interval_range 的 start 和 freq 参数:# start: 区间起始点,通常取数据的最小值向下取整。# periods: 区间数量,即 int(cn)。# freq: 区间宽度,即 cr。# 重新计算 cr,更贴近实际需求# 目标是生成大约 cn 个区间,且每个区间宽度为整数。# 总范围 = max(data) - min(data)# 理想的 cr = 总范围 / cn# 但为了整数边界和覆盖所有数据,需要调整。# 原始答案的 cr 计算:# cr_ans = math.ceil((math.ceil(max_val) - int(min_val)) / cn)# 这个 cr 确保了从 int(min_val) 到 math.ceil(max_val) 的范围可以被 cn 个 cr 宽度的区间覆盖。cr_final = math.ceil((math.ceil(max_val) - math.floor(min_val)) / cn)# 确保起始点为整数,并且能覆盖到最小数据点start_for_interval = math.floor(min_val)# 如果 start_for_interval + cr_final * int(cn) < max_val,则可能需要调整 cr 或 periods# 确保所有数据点都被包含在内if start_for_interval + cr_final * int(cn) < max_val:    # 如果当前 cr 不足以覆盖所有数据,增加 periods 或 cr    # 简单的方法是增加 periods 直到覆盖    periods_needed = math.ceil((max_val - start_for_interval) / cr_final)    periods_to_use = max(int(cn), periods_needed)else:    periods_to_use = int(cn)custom_intervals = pd.interval_range(    start=start_for_interval,    periods=periods_to_use, # 使用计算出的或原始的类数    freq=cr_final,    closed='right' # 默认就是right,但明确指定更清晰)print(f"n自定义区间 (pd.interval_range):")print(custom_intervals)# 4. 使用自定义区间进行分箱binned_data = pd.cut(x=top_books['book price'], bins=custom_intervals)print("n使用自定义区间分箱后的数据示例:")print(binned_data.head())# 5. 生成频率分布表frequency_table = top_books.groupby(binned_data).agg(count=('book price', 'count'))# 或者更简洁的:frequency_table = binned_data.value_counts().sort_index()print("n频率分布表:")print(frequency_table)

4. 注意事项与总结

区间类型 (closed 参数): pd.interval_range 和 pd.cut 默认创建右闭合区间 (a, b],即包含上限不包含下限。如果需要其他类型(如左闭合 [a, b),或双闭合 [a, b]),可以通过 closed 参数进行设置。cr 的计算: cr 的计算至关重要,它决定了每个箱的宽度。使用 math.ceil 向上取整可以确保所有数据点都能被包含在生成的区间内,并且得到整数的类距。同时,确保 min_val 和 max_val 在计算 cr 时也进行适当的向上/向下取整,以使 start 和 freq 均为整数。非连续区间: 如果确实需要 (2,6], (7,11] 这种带有间隙的非连续区间,pd.interval_range 无法直接生成。在这种情况下,你需要手动创建一个 pd.IntervalIndex 对象,其中包含每个所需的 pd.Interval 对象。

# 示例:手动创建非连续区间from pandas import Intervalmanual_intervals = pd.IntervalIndex([    Interval(2, 6, closed='right'),    Interval(7, 11, closed='right'),    Interval(12, 16, closed='right'),    # ... 更多区间])# 然后将 manual_intervals 传递给 pd.cut 的 bins 参数# binned_data_manual = pd.cut(x=top_books['book price'], bins=manual_intervals)

然而,对于大多数频率分布和直方图应用,连续区间是标准做法。原始问题中期望的输出可能是对直方图边界的一种简化表示,而非严格的数学区间定义。

频率统计: 分箱完成后,通过 groupby 结合 agg(‘count’) 或直接使用 value_counts() 方法,可以方便地得到每个区间的频率统计。

通过上述方法,我们可以精确控制 Pandas cut 函数的分箱行为,生成符合业务或分析需求的、具有清晰整数边界的频率分布表,从而提升数据分析结果的可读性和专业性。

以上就是掌握Pandas cut 函数:实现自定义整数区间分箱与频率统计的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1363686.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 03:33:41
下一篇 2025年12月14日 03:33:56

相关推荐

  • Python print() 函数的底层机制与硬件交互解析

    Python的print()函数并非直接与硬件交互,而是通过多层抽象实现文本输出。它首先将数据传递给由C语言实现的Python解释器,解释器进而利用操作系统的标准输出流(stdout)。操作系统负责管理这些流,并通过设备驱动程序将数据发送至显示硬件,最终呈现在屏幕上。这一过程体现了从高级语言到操作系…

    2025年12月14日
    000
  • SQLite:使用 GROUP BY 检索多列的唯一组合及关联数据

    本文探讨了在 SQLite 中如何高效地查询多列的唯一组合,并为每个组合检索关联数据。针对用户尝试使用 DISTINCT 关键字但遇到错误的情况,教程详细阐述了 GROUP BY 子句的正确用法,并结合聚合函数如 MIN(),演示了如何从每个唯一组合中选择特定的行数据,从而避免重复,实现类似 Pyt…

    2025年12月14日
    000
  • Python怎样实现网页截图?selenium无头模式

    python结合selenium无头模式实现网页截图的核心步骤是:1. 安装selenium库并下载对应浏览器的webdriver;2. 导入webdriver和options模块;3. 创建chromeoptions对象并添加–headless、–disable-gpu、&…

    2025年12月14日 好文分享
    000
  • 怎样用Python实现数据标准化?sklearn预处理指南

    数据标准化是机器学习中不可或缺的一步,因为它能消除不同特征之间的量纲影响,加速模型收敛,并提升依赖距离计算算法的性能。1. 标准化可防止数值范围大的特征(如收入)在模型训练中占据主导地位,使模型更公平地对待所有特征;2. 对基于梯度下降的模型(如线性回归、神经网络),标准化使损失函数等高线更圆润,加…

    2025年12月14日 好文分享
    000
  • 如何用Python处理JSON嵌套结构—json_normalize平铺技巧

    json_normalize 是 pandas 用于处理嵌套 json 数据的工具。1. 理解嵌套 json 结构,如包含字典和列表的多层结构;2. 使用 json_normalize 可将嵌套数据拍平成表格形式,地址字段通过点号路径展开;3. 利用 explode 展开列表字段,每个元素单独一行,…

    2025年12月14日 好文分享
    000
  • Python中如何分析文本情绪—NLP情感分析实战

    1.情感分析可用库:textblob适合英文简单分析;vader针对社交媒体;transformers精度高;snownlp支持中文。2.用textblob时通过polarity判断情绪。3.中文可用snownlp、分词加词典或huggingface模型。4.注意上下文、反语识别、多语言混杂及数据质…

    2025年12月14日 好文分享
    000
  • Python如何实现图像分割?UNet模型应用

    unet模型在python中实现图像分割的关键在于其编码器-解码器结构与跳跃连接。1)数据准备至关重要,需像素级标注、数据增强和预处理以提升泛化能力;2)训练挑战包括类别不平衡(可用dice loss/focal loss解决)、过拟合(用dropout/正则化/学习率调度缓解)及资源限制(可减小批…

    2025年12月14日 好文分享
    000
  • 如何用Python压缩文件?zipfile模块教程

    python处理文件压缩主要使用内置的zipfile模块,1. 压缩单个文件可通过zipfile对象写入模式实现;2. 压缩多个文件或目录则遍历路径逐一添加;3. 解压操作支持全部或指定文件提取;4. 查看压缩包内容可使用infolist方法;5. 处理大文件时需注意内存占用和性能优化。该模块功能全…

    2025年12月14日 好文分享
    000
  • 使用Tkinter的after()方法实现窗口延时关闭

    本教程详细介绍了如何利用Tkinter的after()方法实现窗口在指定时间后自动关闭,避免了time.sleep()阻塞GUI的问题。文章将深入解析after()的工作原理,提供简洁实用的代码示例,并探讨在多窗口场景下的应用及相关最佳实践,确保Tkinter应用程序的响应性和流畅性。 在开发图形用…

    2025年12月14日
    000
  • Tkinter窗口定时关闭:利用after()实现非阻塞延时操作

    本教程深入探讨了在Tkinter应用中实现窗口定时关闭的正确方法。通过对比time.sleep()的阻塞性问题,文章详细介绍了Tkinter内置的非阻塞after()方法,并提供了代码示例。此外,还探讨了Tkinter窗口设计的最佳实践,包括合理使用Tk()和Toplevel窗口,帮助开发者构建响应…

    2025年12月14日
    000
  • Python Pandas DataFrame中的韩语罗马化处理

    本文旨在介绍如何在Python Pandas DataFrame中将韩语文本转换为罗马化形式。针对数据框中包含的韩语字符,我们将探讨并演示两种高效的第三方库:korean-romanizer和hangul-romanize。通过示例代码,本文将指导读者如何利用这些工具实现韩语的音译转换,从而方便数据…

    2025年12月14日
    000
  • 使用Python库实现韩语罗马化与Pandas集成

    本文旨在介绍如何在Python Pandas DataFrame中处理韩语文本,并将其转换为罗马音(拼音化)。针对从数据库或外部源获取的韩语字符串,我们将探讨使用korean-romanizer和hangul-romanize这两个专业库来实现韩语的音译转换,并演示如何将此功能应用于DataFram…

    2025年12月14日
    000
  • 在Pandas中实现韩语字符的罗马音转换

    本文旨在指导读者如何在Python Pandas DataFrame中处理韩语字符的罗马音转换。针对从韩语原文获取其罗马化拼音的需求,我们将介绍并演示如何利用korean-romanizer和hangul-romanize等第三方库实现这一功能。教程将涵盖库的安装、基本用法,并提供将转换逻辑应用于P…

    2025年12月14日
    000
  • 深入理解 Python print():从高级语言到硬件输出的路径

    本文深入探讨了Python print()函数在硬件层面的工作原理。当执行print()时,Python解释器(由C语言实现)将数据发送至操作系统管理的标准输出流(stdout)。操作系统通过其内核和设备驱动程序,将这些数据转化为硬件可识别的指令,最终驱动显示器等设备呈现文本。理解这一过程需从C语言…

    2025年12月14日
    000
  • 深入理解Python print()函数:从高级语言到硬件输出

    Python的print()函数看似简单,其背后涉及一个复杂的多层系统交互过程。它并非直接与硬件通信,而是通过Python解释器(通常是C语言实现)、操作系统提供的标准输出流以及底层的驱动程序和硬件接口协同工作,最终将文本数据显示在屏幕上。理解这一机制有助于揭示高级语言与计算机硬件之间的抽象层次。 …

    2025年12月14日
    000
  • 在Windows中以管理员权限运行Python脚本的实用教程

    本教程详细介绍了如何在Windows操作系统中,通过一个简单的Python启动脚本,利用runas命令以管理员权限运行另一个Python脚本。文章将深入讲解runas命令的工作原理、实现步骤,并提供示例代码和重要注意事项,帮助开发者有效解决Python脚本需要高权限运行的场景,例如执行系统级操作或访…

    2025年12月14日
    000
  • 使用 Selenium 上传本地文件到网站的正确方法

    本文档旨在指导开发者如何使用 Selenium WebDriver 在网页上上传本地文件。我们将通过一个实际示例,详细讲解如何定位文件上传元素,并使用 send_keys() 方法模拟文件上传操作。避免常见的 ElementNotInteractableException 错误,确保文件成功上传。 …

    2025年12月14日
    000
  • Pydantic模型中字段别名与原始字段名的双向访问实现

    本文探讨了如何在Pydantic模型中实现字段别名与原始字段名的双向、可互换访问。默认情况下,Pydantic允许通过别名实例化模型,但直接访问时仅支持原始字段名。通过重写Python对象的__getattr__魔术方法,我们可以动态地将别名请求映射到对应的原始字段,从而实现灵活的属性访问。文章提供…

    2025年12月14日
    000
  • 怎样用Python实现数据透视?crosstab交叉分析

    在python中,使用pandas实现数据透视和交叉分析的核心函数是pandas.crosstab和pandas.pivot_table。1. pd.crosstab主要用于生成列联表,适用于两个或多个分类变量的频率计数,支持添加总计和归一化百分比;2. pd.pivot_table功能更强大且灵活…

    2025年12月14日 好文分享
    000
  • 解决AWS Lambda函数部署包大小限制:基于容器镜像的Python依赖管理

    当Python Lambda函数需要包含numpy、opencv-python等大型依赖库时,常常会超出AWS Lambda的250MB部署包大小限制。传统的S3上传或Lambda Layer方法对此类超大依赖往往无效。本文将详细介绍如何利用AWS Lambda对容器镜像的支持,将部署包大小限制提升…

    2025年12月14日
    000

发表回复

登录后才能评论
关注微信