需求
做算法中浮点数比较不准确,如0.2f,0.2f不相等,但是算法中需要做一些浮点数的相等运算(包括大于等于,小于等于,等于),说明等于方法;
<br>
产生原因
浮点数是二进制表示,最后一位总会差那么点。
<br>
比较方法(通用,float和double通用1e-8)
- 大于等于则家减去1e-8
- 小于等于则加上1e-8
- 相等则在区间[-1e-8,1e-8]区间内
微信扫一扫
做算法中浮点数比较不准确,如0.2f,0.2f不相等,但是算法中需要做一些浮点数的相等运算(包括大于等于,小于等于,等于),说明等于方法;
<br>
浮点数是二进制表示,最后一位总会差那么点。
<br>
相关推荐