分类：四舍五入

2021
02-01

PostGresql 实现四舍五入、小数转换、百分比的用法说明

需求：两个整数相除，保留两位小数并四舍五入，完了转成百分比形式，即4/5=0.80=80%1.两个整数相除：idn_dw=>select4/5;?column?----------0(1row)在sql运算中，"/"意思是相除取整，这样小数部分就会被舍去。2.用cast将被除数转成小数idn_dw=>selectcast(4asnumeric)/5;?column?------------------------0.80000000000000000000(1row)也可以简化：pg中"::"是转换的意思idn_dw=>select4::numeric/5... 继续阅读 >

2021
01-21

python中四舍五入的正确打开方式

round()函数（注意：下面的我也不清楚是否正确，我只是发表一下我的观点）对于简单的舍入运算，使用内置的round(value,ndigits)函数即可强烈建议不要去深究，就直接得结果就好ndigiths可以为正数，也可以为负数，还可以为0,可以为空n：就是精确到第n位小数，对整数没有影响，1为精确到十分位（注意:小数就是从十分位往后推的）-n：就是精确到整数位，-1为精确到十位，然后就是百位千位…有小数位就全舍掉，不管多大，但会保留一... 继续阅读 >

2020
10-10

Java四舍五入时保留指定小数位数的五种方式

方式一：doublef=3.1516;BigDecimalb=newBigDecimal(f);doublef1=b.setScale(2,BigDecimal.ROUND_HALF_UP).doubleValue();输出结果f1为3.15；源码解读：publicBigDecimalsetScale(intnewScale,introundingMode）//intnewScale为小数点后保留的位数，introundingMode为变量进行取舍的方式；BigDecimal.ROUND_HALF_UP属性含义为为四舍五入方式二：Stringformat=newDecimalFormat("#.0000").for... 继续阅读 >

2020
10-09

python 浮点数四舍五入需要注意的地方

本文主要分享基于python的数据分析三方库pandas，numpy的一次爬坑经历，发现并分析了python语言对于浮点数精度处理不准确的问题，并在最后给出合理的解决方案。如果你也在用python处理数据，建议看一下，毕竟0.1的误差都可能造成比较大的影响。问题出现早上到了公司，领导发了几个文件过来，说这两天测试环境跑出来的数据，与实际情况有所出入，看看哪出的问题，尽快解决···开始排查先对比数据，发现并不是所有的数据都出现问题... 继续阅读 >