将Anscombe数据从长格式转换为宽格式的Pandas教程

将Anscombe数据从长格式转换为宽格式的Pandas教程

本教程详细介绍了如何使用Pandas将Anscombe数据集从长格式转换为宽格式。通过结合groupby().cumcount()和DataFrame.pivot()方法,我们可以高效地重塑数据,并利用列表推导式或映射字典对生成的复杂列名进行优化,使其符合“xN”和“yN”的简洁格式,从而方便后续的数据分析和可视化。

引言:理解数据格式转换的需求

在数据分析领域,数据通常以两种主要格式存在:长格式(long format)和宽格式(wide format)。长格式数据通常更适合存储和某些统计分析,因为它将不同的变量观测值堆叠在几列中,而通过一个或多个标识符列来区分。宽格式数据则将不同的变量观测值展开为独立的列,每个观测单元(例如本例中的每个数据集)占据一行。

Anscombe四重奏数据集是一个经典的例子,用于说明统计图表的重要性。该数据集最初以长格式加载,其中dataset列标识了四个不同的数据集(I, II, III, IV),而x和y列则包含对应的数据点。我们的目标是将这种长格式数据转换为宽格式,使得每个数据集的x和y值都拥有独立的列,并且列名带有数据集编号的后缀(例如x1, y1, x2, y2等)。

首先,我们加载并查看原始的长格式Anscombe数据:

import seaborn as snsimport pandas as pd# 加载Anscombe四重奏数据集anscombe_long = sns.load_dataset("anscombe")print("原始长格式数据:")print(anscombe_long.head())

输出示例:

原始长格式数据:  dataset     x     y0       I  10.0  8.041       I   8.0  6.952       I  13.0  7.583       I   9.0  8.814       I  11.0  8.33

核心转换策略:groupby().cumcount()与DataFrame.pivot()

要将长格式数据转换为所需的宽格式,我们需要两个关键步骤:

创建唯一的行索引: DataFrame.pivot()操作需要一个明确的index参数。由于原始数据中每个dataset内的x和y值没有唯一的行标识符,我们需要为每个数据集内的行生成一个序列号。groupby(‘dataset’).cumcount()方法可以为每个组(即每个数据集)生成一个从0开始的累积计数,这正是我们需要的。执行透视操作: 使用DataFrame.pivot()方法将数据从长格式重塑为宽格式。我们将新生成的序列号作为index,dataset列作为新的columns,而x和y作为values。

下面是实现这一转换的代码:

# 步骤1:为每个数据集内的行生成一个唯一的序列号# 将序列号作为新列 'g' 添加到DataFramedf_temp = anscombe_long.assign(g=anscombe_long.groupby('dataset').cumcount())# 步骤2:使用pivot方法进行数据重塑# index='g' 表示新DataFrame的行索引将是'g'列# columns='dataset' 表示新DataFrame的列将由'dataset'列的唯一值构成# values参数在此处可以省略,因为我们想将'x'和'y'都作为值进行透视anscombe_wide_intermediate = df_temp.pivot(index='g', columns='dataset')print("n中间宽格式数据(带多级列索引):")print(anscombe_wide_intermediate)

输出示例:

中间宽格式数据(带多级列索引):dataset     x                        y                    dataset     I    II   III    IV      I    II    III     IVg                                                         0        10.0  10.0  10.0   8.0   8.04  9.14   7.46   6.581         8.0   8.0   8.0   8.0   6.95  8.14   6.77   5.762        13.0  13.0  13.0   8.0   7.58  8.74  12.74   7.71...

可以看到,pivot操作成功地将数据转换为宽格式,但生成了一个多级列索引(MultiIndex),其中第一级是原始的x和y,第二级是数据集的罗马数字标识符。为了达到目标格式(x1, y1, x2, y2等),我们需要进一步处理列名。

列名优化:从罗马数字到阿拉伯数字

转换后的DataFrame具有一个MultiIndex列,这在某些情况下非常有用,但在此场景中,我们希望将列名扁平化为x1, y1等形式。这需要我们将罗马数字转换为对应的阿拉伯数字。

有两种主要方法可以实现这一点:

方法一:使用roman库进行通用转换

如果数据集标识符是罗马数字,并且我们希望有一个通用的解决方案,可以使用roman库。

首先,确保你已安装roman库:

pip install roman

然后,应用转换逻辑:

import roman# 扁平化列名,并将罗马数字转换为阿拉伯数字# out.columns 是一个MultiIndex,每个元素是一个元组 (原始列名, dataset标识符)anscombe_wide_final_roman = anscombe_wide_intermediate.copy() # 创建副本避免修改原始中间结果anscombe_wide_final_roman.columns = [f'{col_type}{roman.fromRoman(dataset_id)}'                                      for col_type, dataset_id in anscombe_wide_final_roman.columns]print("n最终宽格式数据(使用roman库):")print(anscombe_wide_final_roman)

输出示例:

最终宽格式数据(使用roman库):      x1    x2    x3    x4     y1    y2     y3     y4g                                                    0   10.0  10.0  10.0   8.0   8.04  9.14   7.46   6.581    8.0   8.0   8.0   8.0   6.95  8.14   6.77   5.762   13.0  13.0  13.0   8.0   7.58  8.74  12.74   7.71...

方法二:使用映射字典进行显式转换

如果数据集标识符是有限且已知的,或者不是标准的罗马数字,我们可以创建一个映射字典来手动指定转换关系。这种方法更加灵活,因为它不依赖于特定的库,并且可以处理任意的标识符。

# 定义罗马数字到阿拉伯数字的映射字典dataset_mapping = {'I': 1, 'II': 2, 'III': 3, 'IV': 4}# 扁平化列名,并使用映射字典进行转换anscombe_wide_final_map = anscombe_wide_intermediate.copy() # 创建副本anscombe_wide_final_map.columns = [f'{col_type}{dataset_mapping[dataset_id]}'                                    for col_type, dataset_id in anscombe_wide_final_map.columns]print("n最终宽格式数据(使用映射字典):")print(anscombe_wide_final_map)

输出示例(与方法一相同):

最终宽格式数据(使用映射字典):      x1    x2    x3    x4     y1    y2     y3     y4g                                                    0   10.0  10.0  10.0   8.0   8.04  9.14   7.46   6.581    8.0   8.0   8.0   8.0   6.95  8.14   6.77   5.762   13.0  13.0  13.0   8.0   7.58  8.74  12.74   7.71...

注意事项与最佳实践

cumcount()的稳定性: groupby().cumcount()的顺序取决于原始DataFrame中数据的顺序。如果原始数据没有一个稳定的排序键,那么每次运行代码时,g列的生成顺序可能会有所不同,从而导致最终宽格式DataFrame的行顺序发生变化。为了确保结果的可重现性,建议在应用cumcount()之前对数据进行排序(例如anscombe_long.sort_values([‘dataset’, ‘x’, ‘y’]))。pivot()与pivot_table(): pivot()要求index和columns的组合必须是唯一的。如果存在重复组合,Pandas会报错。如果你的数据可能存在重复组合,并且你需要对重复值进行聚合(例如求和、平均值),那么应该使用功能更强大的pivot_table()。在本例中,cumcount()确保了g和dataset的组合是唯一的,因此pivot()是合适的。列名生成: 列表推导式是处理MultiIndex列名的强大工具。f-string(格式化字符串字面量)提供了一种简洁的方式来构建新的列名。选择列名转换方法:roman库方法适用于所有标准罗马数字的情况,提供了一定的自动化。映射字典方法更加灵活,可以处理非标准命名或更复杂的映射需求,但需要手动定义映射关系。

总结

本教程展示了如何利用Pandas的强大功能,将长格式数据高效地转换为具有特定列名约定的宽格式数据。通过结合groupby().cumcount()创建唯一的组内索引,然后使用DataFrame.pivot()进行数据重塑,最后通过列表推导式和roman库或自定义映射字典来优化列名,我们能够灵活地满足数据分析和可视化的特定需求。掌握这些数据重塑技术是进行高效数据处理的关键技能之一。

以上就是将Anscombe数据从长格式转换为宽格式的Pandas教程的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1369417.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月14日 09:38:56
下一篇 2025年12月14日 09:39:12

相关推荐

发表回复

登录后才能评论
关注微信