Skip to main content
 首页 » 编程设计

python之Python 3 中的计算精度

2025年05月04日23soundcode

在 Python 中,我得到了一个简单计算的意外结果:

100 - 123.123 

返回:
-23.123000000000005

我预计输出为 -23.123。

所以我尝试了:

import numpy as np 
np.float64(100) - np.float64(123.123) 

返回:
-23.123000000000005

我预计输出为 -23.123。

关于如何获得更精确/准确的结果有什么建议吗?

请您参考如下方法:

你在 python 文档中定义了这个效果:

https://docs.python.org/2/tutorial/floatingpoint.html

您可以在打印时将结果格式化为您想要的 3 位数:

print("%.3f" % np.float64(100) - np.float64(123.123))