keil中做C51系列的调试,8.90*100=889,但7.90*100=790,求大神

keil中做C51的调试,定义一个变量 I是float,I的取值取,8.90和9.90是有问题。其做运算 8.90*100=889,9.90*100=989,但7.90*100=790, 6.90*100=960,而且9.91*100=991,8.91*100=891,唯独跳过了890和990,是咋回事?和数据类型有关系吗,改成double也不对。但改成8.90123456*100取前三位就可以是990,这又是怎么回事?求大神解答。

1个回答

在单片机中是有这种情况的,单片机中float型数据的存储,是把他转化为指数的形式存储的。而遇到float型的运算,尤其是乘除运算时,会出现一定的误差,这是正常的、

Csdn user default icon
上传中...
上传图片
插入图片
抄袭、复制答案,以达到刷声望分或其他目的的行为,在CSDN问答是严格禁止的,一经发现立刻封号。是时候展现真正的技术了!
立即提问
相关内容推荐