分类：精度

2021
06-23

详解java中BigDecimal精度问题

一、背景在实际开发中，对于不需要任何准确计算精度的属性可以直接使用float或double，但是如果需要精确计算结果，则必须使用BigDecimal，例如价格、质量。为什么这么说，主要有两点1、double计算会有精度丢失问题2、在除法运算时，BigDecimal提供了丰富的取舍规则。(double虽然可以通过NumberFormat进行四舍五入，但是NumberFormat是线程不安全的)对于精度问题我们可以看下实际的例子publicstaticvoidmain(String[]args){... 继续阅读 >

2020
10-08

如何基于Python代码实现高精度免费OCR工具

近期Github开源了一款基于Python开发、名为Textshot的截图工具，刚开源不到半个月已经500+Star。这两天抽空看了一下Textshot的源码，的确是一个值得介绍的项目。相对于大多数OCR工具复杂工程、差强人意的效果，Textshot具有明显的优势，项目简单技术点丰富项目简单Textshot整个项目只有1个Python文件、139行代码，没有复杂的第三方库应用，也不涉及过多后端算法的调用。技术点丰富Textshot这个项目虽然只有短短的139行代码，... 继续阅读 >

2014
11-07

PHP基础之数据类型3——浮点型（Float）

浮点型（也叫浮点数float，双精度数double或实数real）可以用以下任一语法定义：<?php$a=1.234;$b=1.2e3;$c=7E-10;?>浮点数的形式表示：LNUM         [0-9]+DNUM         ([0-9]*[\.]{LNUM})|({LNUM}[\.][0-9]*)EXPONENT_DNUM[+-]?(({LNUM}|{DNUM})[eE][+-]?{LNUM})浮点数的字长和平台相关，尽管通常最大值是1.8e308并具有14位十进制数字的精度（64位IEEE格式）。Warning... 继续阅读 >