分类：float64精度

2021
03-23

解决Golang小数float64在实际工程中加减乘除的精度问题

GO语言的float64类型在做加减乘除时会出现一些问题比如乘法运算，实例，将小数的元转换成整数的分：发现将小数的元乘以100后强制转换为整数分，少了1分解决办法：var(a,bfloat64cint64)a=2.55b=0.0c=int64((a+b)*100.0)fmt.Printf("第1次c=%d\n",c)//第1次c=254c=int64(a*100.0)fmt.Printf("第2次c=%d\n",c)//第2次c=254fmt.Println(a*100)//254.99999999999997//发现将小数的元乘以100后强制转换为... 继续阅读 >