0
点赞
收藏
分享

微信扫一扫

计算机基础-浮点数

楚木巽 2022-05-04 阅读 93
java

1. 浮点数

浮点数在计算机中是由二进制表示,一个浮点数如1.0f在计算机中表示为1 * 2^{0}。浮点数的基本结构为:

浮点数运算的步骤:

如上所示,在浮点数的结构和运算过程中可知,有效精度位和运算过程中的规格化和舍入处理可知,浮点数的运算并不一定精确而是存在误差。因此在Java中对于浮点数进行运算需要能够接受其误差,不能接受其误差可使用Decimal类来进行运算。另外,切忌对浮点数结果进行等值判断,因为该结果存在误差。

举报

相关推荐

0 条评论