计算机存储 全部 | 未解决 | 已解决
2019.03.10 00:16来自 weixin_41290057

有关 float的一个问题

请教大神们一个问题 :float共32位23位为尾数位根据0舍1入的规则当24位为1的时候第23位要+1这时候float中存储的数会比正确的数大上一些假设float为8000023那么正确的数小上一些为799998...
2

回答

2018.10.05 13:32来自 ww2114

由于存储会损失精度,0.1的存储直接输出还是0.1而不是0.099999呢

由于存储会损失精度,0.1的存储应该是0111111011.100110011001100110011001 为什么float a = 0.1; 直接输出还是0.1而不是0.099999呢?
1

回答