为什么减法的过程中数据少了0.000002?

我想把456倒着输出,但是总是是554,输出各个变量的值后发现少了一点,朋友们怎么回事啊图片

c

3个回答

不能使用浮点数,精度丢失,原理是由于计算机用二进制表示小数的时候会出现乘不尽的现象。使用整数就没有问题

ahahulahula
ahahulahula 有代码吗,这样我看不太懂,我不是要0.6是要6,就是用45.6-45得到0.6然后乘10得到6,关键当我打上456时输出的是554,打上457时输出的是754,就456和几个数输出的是错误的,而且都差了1
接近 4 年之前 回复
qq_29594393
当作看不见 回复ahahulahula: 后面记得强制转换为浮点数,就能解决这个问题
接近 4 年之前 回复
qq_29594393
当作看不见 回复ahahulahula: 整形,计算完之后,需要几位小数,就除10 的几次方。例如要0.5和0.6,改成5和6 计算完,再除10
接近 4 年之前 回复
ahahulahula
ahahulahula 但是我需要这个小数,那我应该定义o为什么型?
接近 4 年之前 回复

这是浮点数的特点决定的,浮点数不能准确表达一个长度大于它的精度的小数。
比如0.222222222222222222,如果使用变量的精度为10位的浮点数,它只能表达0.2222222222,丢失0.0000000000222222222

这样,使用这个变量计算,就会有误差了。

,它是有灰的精度丢失,原理是由于计算机用二进制表示小数的时候会出现乘不尽的现象。使用整数就没有问题

0 0 评论 4 |
分享.

ahahulahula
ahahulahula 可我是减法的时候出现的误差啊,而且乘不尽是什么情况啊,朋友
接近 4 年之前 回复

这是浮点数的特点决定的,浮点数不能准确表达一个长度大于它的精度的小数。
比如0.222222222222222222,如果使用变量的精度为10位的浮点数,它只能表达0.2222222222,丢失0.0000000000222222222

这样,使用这个变量计算,就会有误差了。

Csdn user default icon
上传中...
上传图片
插入图片
抄袭、复制答案,以达到刷声望分或其他目的的行为,在CSDN问答是严格禁止的,一经发现立刻封号。是时候展现真正的技术了!
立即提问
相关内容推荐