分类：精准计算

2021
05-29

js精准计算

varnumA=0.1;varnumB=0.2;alert(numA+numB);0.1+0.2=0.30000000000000004。计算精度误差问题（和二进制相关）。对于浮点数的四则运算，几乎所有的编程语言都会有类似精度误差的问题，只不过在C++/C#/Java这些语言中已经封装好了方法来避免精度的问题，而JavaScript是一门弱类型的语言，从设计思想上就没有对浮点数有个严格的数据类型，所以精度误差的问题就显得格外突出。我们先把0.1和0.2转换成二进制看看... 继续阅读 >