prettyskywang 2015-07-31 03:12 采纳率: 0%
浏览 1462

keil中做C51系列的调试，8.90*100=889，但7.90*100=790，求大神

keil中做C51的调试，定义一个变量 I是float，I的取值取，8.90和9.90是有问题。其做运算 8.90*100=889，9.90*100=989，但7.90*100=790, 6.90*100=960，而且9.91*100=991,8.91*100=891，唯独跳过了890和990，是咋回事？和数据类型有关系吗，改成double也不对。但改成8.90123456*100取前三位就可以是990，这又是怎么回事？求大神解答。

  • 写回答

1条回答

  • autocyz 2015-07-31 07:08
    关注

    在单片机中是有这种情况的，单片机中float型数据的存储，是把他转化为指数的形式存储的。而遇到float型的运算，尤其是乘除运算时，会出现一定的误差，这是正常的、

    评论

报告相同问题？

悬赏问题

  • ¥15 乘性高斯噪声在深度学习网络中的应用
  • ¥15 运筹学排序问题中的在线排序
  • ¥15 关于docker部署flink集成hadoop的yarn，请教个问题 flink启动yarn-session.sh连不上hadoop，这个整了好几天一直不行，求帮忙看一下怎么解决
  • ¥30 求一段fortran代码用IVF编译运行的结果
  • ¥15 深度学习根据CNN网络模型，搭建BP模型并训练MNIST数据集
  • ¥15 C++ 头文件/宏冲突问题解决
  • ¥15 用comsol模拟大气湍流通过底部加热（温度不同）的腔体
  • ¥50 安卓adb backup备份子用户应用数据失败
  • ¥20 有人能用聚类分析帮我分析一下文本内容嘛
  • ¥30 python代码，帮调试，帮帮忙吧