
大家好!
继上次介绍Rustynum之后,我将分享最近几周的开发进展。Rustynum是一个轻量级的NumPy替代品,使用Rust编写,并采用MIT许可证开源发布在GitHub上。它利用Rust的SIMD特性,实现更快的数值计算,同时保持体积小巧(Python wheel约300KB)。本文将重点介绍开发过程中的心得体会,以及新增的文档和教程。
简要回顾
如果您错过了之前的公告,Rustynum的主要特性包括:
利用Rust的SIMD指令集高性能Rust的内存安全特性,无需GC开销小巧的发布包大小(远小于NumPy wheel)类似NumPy的接口,方便Python用户迁移
更多信息请访问Rustynum官网或查看我之前在dev.to发表的文章。
开发人员视角:最新进展
矩阵操作改进
我投入大量精力确保矩阵操作的便捷性。能够以最小的代码改动,实现NumPy的矩阵向量乘法或矩阵矩阵乘法等操作,是一个主要目标。.dot()函数和@运算符都支持这些操作。
查看相关教程: Rustynum中的高级矩阵操作
以下是一个快速示例:
import rustynum as rnpmatrix = rnp.numarray([i for i in range(16)], dtype="float32").reshape([4, 4])vector = rnp.numarray([1, 2, 3, 4], dtype="float32")# 使用dot函数result_vec = matrix.dot(vector)print("矩阵向量乘法结果:", result_vec)
可以看到,这与NumPy的工作流程非常相似。基准测试显示,Rustynum在处理小型和中等数据集时,速度通常与NumPy相当,有时甚至更快。对于大型矩阵,我仍在进行优化。
常用分析任务加速
除了矩阵乘法,我还持续改进mean()、min()、max()和dot()等操作的性能。这些函数是SIMD加速的主要目标。此外,还有一个教程演示如何用Rustynum替换特定的NumPy调用,这对于解决Python循环瓶颈非常有用。
示例:
import numpy as npimport rustynum as rnp# 生成测试数据data_np = np.random.rand(1_000_000).astype(np.float32)data_rn = rnp.numarray(data_np.tolist(), dtype="float32")# NumPy方法mean_np = data_np.mean()# Rustynum方法mean_rn = data_rn.mean().item()print("NumPy均值:", mean_np)print("Rustynum均值:", mean_rn)
虽然Python的开销有时会抵消Rust的原生速度优势,但在许多情况下,Rustynum仍然表现出性能优势。
新增教程:现实世界示例
为了更好地展示Rustynum的优势,我添加了几个新的教程,涵盖了现实世界的编码场景:
高级矩阵操作 – 重点讲解点积、矩阵向量乘法和矩阵矩阵乘法。替换核心NumPy调用 – 演示如何将NumPy的mean、min、dot替换为Rustynum。简化机器学习预处理 – 探索机器学习中的缩放、标准化和特征工程。
最后一个教程是我个人最喜欢的,它涵盖了机器学习管道中常见的预处理步骤,只需将NumPy调用替换为Rustynum即可。
缩放代码片段示例:
def min_max_scale(array): col_mins = [] col_maxes = [] for col_idx in range(array.shape[1]): col_data = array[:, col_idx] col_mins.append(col_data.min()) col_maxes.append(col_data.max()) scaled_data = [] for col_idx in range(array.shape[1]): col_data = array[:, col_idx] numerator = col_data - col_mins[col_idx] denominator = col_maxes[col_idx] - col_mins[col_idx] or 1.0 scaled_col = numerator / denominator scaled_data.append(scaled_col.tolist()) return rnp.concatenate( [rnp.numarray(col, dtype="float32").reshape([array.shape[0], 1]) for col in scaled_data], axis=1 )
这段代码展示了Rustynum如何高效地进行行/列操作。缩放后,数据仍然可以被馈送到您喜欢的机器学习框架中。
正在进行的工作
大型矩阵优化
我注意到,对于非常大的矩阵(例如10k×10k),Rustynum的当前代码路径与NumPy相比,尚未完全优化。这仍然是一个活跃的开发领域。Rustynum还处于早期阶段,我希望引入进一步的并行化或基于块的乘法技术,以提升大型矩阵的性能。
扩展数据类型
Rustynum目前支持float32和float64,以及一些整数类型。我正在考虑添加更强大的整数支持,例如用于索引或小型转换的整数类型。同时,如果社区有需求,高级数据类型(例如复数)也可能会被加入。
文档和API增强
Rustynum.com上的文档网站包含API参考和路线图,我正在持续改进。如果您发现任何缺失的内容,或者有特定用例的考虑,请随时在GitHub上提交问题或Pull Request。
Rustynum的主要目标
Rustynum最初只是我将Rust和Python结合起来的学习项目。由于我每天都在从事机器学习相关工作,因此我希望Rustynum能够取代我日常工作中部分NumPy的例程。我们正在逐渐实现这个目标。我开始添加更多关于如何在机器学习管道中集成Rustynum的教程。
快速代码示例:机器学习集成
以下是一个简短的示例,展示了Rustynum如何融入数据管道:
import numpy as npimport rustynum as rnpfrom sklearn.linear_model import LogisticRegression# 1) 使用NumPy创建合成数据train_np = np.random.rand(1000, 10).astype(np.float32)labels_np = np.random.randint(0, 2, size=1000)# 2) 转换为Rustynum进行快速缩放train_rn = rnp.NumArray(train_np.flatten().tolist(), dtype="float32").reshape([1000, 10])# 基本缩放 (计算每列的最小值和最大值)scaled_rn = []for col_idx in range(train_rn.shape[1]): col_data = train_rn[:, col_idx] mn = col_data.min() mx = col_data.max() rng = mx - mn if (mx != mn) else 1.0 scaled_col = (col_data - mn) / rng scaled_rn.append(scaled_col.tolist())train_scaled_rn = rnp.concatenate( [rnp.NumArray(col, dtype="float32").reshape([1000, 1]) for col in scaled_rn], axis=1)# 3) 转换回NumPy用于scikit-learntrain_scaled_np = np.array(train_scaled_rn.tolist(), dtype=np.float32)# 4) 训练逻辑回归模型model = LogisticRegression()model.fit(train_scaled_np, labels_np)print("模型系数:", model.coef_)
这个脚本展示了Rustynum如何以Pythonic的方式处理数据转换,然后您可以将数组传递给其他库。
总结
扩展Rustynum的功能,并探索Rust与Python集成如何实现高性能计算,是一个非常有趣的过程。最近的教程展示了Rustynum如何在数据科学或机器学习任务中部分替代NumPy,尤其是在处理较小或中等大小数组的任务中。
访问Rustynum.com查看教程在GitHub上贡献代码或报告问题分享您的反馈
感谢您的关注,期待听到Rustynum如何帮助到您的项目!
祝您编程愉快!
Igor
以上就是Rustynum随访:新鲜见解和正在进行的发展的详细内容,更多请关注创想鸟其它相关文章!
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1356224.html
微信扫一扫
支付宝扫一扫