分类：浮点数运算

2020
10-08

Python如何执行精确的浮点数运算

问题你需要对浮点数执行精确的计算操作，并且不希望有任何小误差的出现。解决方案浮点数的一个普遍问题是它们并不能精确的表示十进制数。并且，即使是最简单的数学运算也会产生小的误差，比如：>>>a=4.2>>>b=2.1>>>a+b6.300000000000001>>>(a+b)==6.3False>>>这些错误是由底层CPU和IEEE754标准通过自己的浮点单位去执行算术时的特征。由于Python的浮点数据类型使用底层表示存储数据，因此你没办法去避免这样的误... 继续阅读 >