
python 浮点运算精度问题
浮点运算的精度可能在某些情况下导致奇怪的结果。例如:
>>> 23300 * 0.716309.999999999998
即使我们用精确的数字进行了运算,结果也不是我们预期的 16310。
立即学习“Python免费学习笔记(深入)”;
这种情况并非 python 独有,其他编程语言也存在类似的问题。当涉及金额计算时,有以下解决方法:
使用 decimal 模块:这个模块提供了更精确的小数运算。全部换成分计算:将货币转换为以最小单位(如分)表示,然后进行计算。
以上就是Python浮点运算精度低,如何避免金额计算错误?的详细内容,更多请关注创想鸟其它相关文章!
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1353767.html
微信扫一扫
支付宝扫一扫