浮点数只有十进制,那怎么在计算机中存储,计算机中不是只认二进制吗?
3条回答 默认 最新
神奇的代码在哪里 2023-02-23 23:11关注用例子解释比较清楚,
例如:
浮点数3.0,二进制表示为011.000,也就是2+1
浮点数0.5,二进制表示为000.100,也就是0+½,也就是0+0.5
浮点数0.75,二进制表示为000.110,也就是0+½+¼,也就是0+0.5+0.25
浮点数0.875,二进制表示为000.111,也就是0+½+¼+⅛,也就是0+0.5+0.25+0.125
所以可以得出,浮点数小数部分是由一堆不断除以2的数相加组成的。那么问题来了,0.6怎么用二进制表示。
经过理论论证0.6是不能用二进制完整表示的,所以计算机只能存储0.6的近似值(类似0.5999999xxxx的值)。
也就是说浮点数在计算机中只是以二进制存储近似值,如果计算精度非常高时会出现计算出错的问题。
参考阅读:
https://blog.csdn.net/yy339452689/article/details/108256478本回答被题主选为最佳回答 , 对您是否有帮助呢?评论 打赏 举报解决 1无用