第一段引用上面的摘要：
本文探讨了在使用 NumPy 的 vectorize 函数时，可能出现的数值精度问题，即函数输出结果非预期地变为 0 或 1。通过分析问题代码，解释了数据类型溢出是导致此现象的原因，并提供了两种解决方案：将整数转换为浮点数，以及避免使用 np.vectorize。同时，展示了优化后的代码示例，以避免潜在的精度损失，保证计算结果的准确性。
问题分析
在使用 numpy.vectorize 时，如果输出结果全部是 0 或 1，很可能是由于数据类型溢出导致的。具体来说，当计算结果超出 NumPy 数组所能表示的最大值时，就会发生溢出，导致结果不准确。
例如，在原始代码中，2**n 这样的表达式，当 n 足够大时，其结果可能超过 int32 的表示范围，导致溢出，从而影响后续计算。
import numpy as npdef epsilon(n): return 1.6952445781450207*2**(-1.028148909051717*n)def pPsi(n): return 1.0577183294485202*2**(-1.028620169094481*n)def perrMaxFunc(n): res=epsilon(n)/(2*np.abs(1/2**n-pPsi(n))) return min([1,res])vectorized_perr=np.vectorize(perrMaxFunc)nmax=500;perrMax=vectorized_perr([i for i in range(nmax)])print(perrMax)print(perrMaxFunc(500))
解决方案
以下提供两种解决方案，避免数据类型溢出，确保计算结果的准确性。
1. 使用浮点数
最直接的解决方法是将涉及指数运算的数值转换为浮点数。这可以通过以下两种方式实现：
将常量 2 替换为 2.0。确保传递给函数的参数 n 是浮点数类型。
修改后的代码如下：
import numpy as npdef epsilon(n): return 1.6952445781450207*2.**(-1.028148909051717*n)def pPsi(n): return 1.0577183294485202*2.**(-1.028620169094481*n)def perrMaxFunc(n): res = epsilon(n)/(2.*np.abs(1/2.**n-pPsi(n))) return min([1,res])vectorized_perr=np.vectorize(perrMaxFunc)nmax=500;perrMax=vectorized_perr([i for i in range(nmax)])print(perrMax)print(perrMaxFunc(500))
通过将 2 替换为 2.，可以强制将指数运算的结果转换为浮点数，从而避免溢出。
2. 避免使用 np.vectorize
np.vectorize 本质上是一个循环，效率并不高。NumPy 提供了许多向量化的函数，可以直接对数组进行操作，效率更高。例如，可以使用 np.minimum 代替 min 函数，并直接对 NumPy 数组进行操作。
修改后的代码如下：
import numpy as npdef epsilon(n): return 1.6952445781450207*2.**(-1.028148909051717*n)def pPsi(n): return 1.0577183294485202*2.**(-1.028620169094481*n)def perrMaxFunc(n): res = epsilon(n)/(2.*np.abs(1/2.**n-pPsi(n))) return np.minimum(1,res)nmax= 500perrMax=perrMaxFunc(np.arange(nmax))print(perrMax)print(perrMaxFunc(500))
在这个例子中，我们使用了 np.minimum 函数，它可以直接对数组进行操作，而不需要使用 np.vectorize。 此外，直接对 np.arange(nmax) 生成的数组进行操作，也避免了使用列表推导式，提高了代码效率。
总结
在使用 NumPy 进行数值计算时，需要注意数据类型溢出的问题。通过将整数转换为浮点数，或者避免使用 np.vectorize，可以直接对 NumPy 数组进行操作，可以有效避免溢出问题，并提高代码效率。同时，建议尽可能使用 NumPy 提供的向量化函数，以充分利用 NumPy 的性能优势。
以上就是NumPy vectorize 导致数值“舍入”为最接近的整数：原因及解决方案的详细内容，更多请关注创想鸟其它相关文章！
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 chuangxiangniao@163.com 举报，一经查实，本站将立刻删除。
发布者：程序猿，转转请注明出处：https://www.chuangxiangniao.com/p/1366504.html
微信扫一扫 
支付宝扫一扫 
