浮点数只有十进制,那怎么在计算机中存储,计算机中不是只认二进制吗?
3条回答 默认 最新
- 神奇的代码在哪里 2023-02-23 23:11关注
用例子解释比较清楚,
例如:
浮点数3.0,二进制表示为011.000,也就是2+1
浮点数0.5,二进制表示为000.100,也就是0+½,也就是0+0.5
浮点数0.75,二进制表示为000.110,也就是0+½+¼,也就是0+0.5+0.25
浮点数0.875,二进制表示为000.111,也就是0+½+¼+⅛,也就是0+0.5+0.25+0.125
所以可以得出,浮点数小数部分是由一堆不断除以2的数相加组成的。那么问题来了,0.6怎么用二进制表示。
经过理论论证0.6是不能用二进制完整表示的,所以计算机只能存储0.6的近似值(类似0.5999999xxxx的值)。
也就是说浮点数在计算机中只是以二进制存储近似值,如果计算精度非常高时会出现计算出错的问题。
参考阅读:
https://blog.csdn.net/yy339452689/article/details/108256478本回答被题主选为最佳回答 , 对您是否有帮助呢?解决 1无用
悬赏问题
- ¥500 高有偿提问!求优化设计微信小程序
- ¥15 matlab在安装时报错 无法找到入口 无法定位程序输入点
- ¥15 收益高的广告联盟有哪些
- ¥15 Android Studio webview 的使用问题, 播放器横屏全屏
- ¥15 删掉jdk后重新下载,Java web所需要的eclipse无法使用
- ¥15 uniapp正式环境中通过webapi将本地数据推送到设备出现的跨域问题
- ¥15 xui建立节点,显示错误
- ¥15 关于#单片机#的问题:开始、复位、十进制的功能可以实现,但是切换八进制的功能无法实现(按下按键也没有效果),把初始状态调成八进制,也是八进制可以实现但是切换到十进制不行(相关搜索:汇编语言|计数器)
- ¥15 VINS-Mono或Fusion中feature_manager中estimated_depth是特征的深度还是逆深度?
- ¥15 谷歌浏览器如何备份抖音网页数据