金丹一粒誤先生 2016-07-24 16:20 采纳率: 100%
浏览 2629

为什么c++中double和float类型计算结果不一致

是c++ primer plus p60的题目,如下:

 #include <iostream> 
int main ()
{
    using namespace std;
    cout.setf (ios_base::fixed, ios_base::floatfield);
    cout << "double constants: 1e7/9.0 = " << 1.e7/9.0 << endl;
    cout << "float constants: 1e7f/9.0f = " << 1.e7f/9.0f << endl;
    return 0;
}

输出结果分别为图片说明

为什么计算结果会不一致?还有就是cout.setf (ios_base::fixed, ios_base::floatfield);这行,ios_base::fixed是定点输出,是指小数点固定的意思吗?那么就是默认固定小数点后六位吗?ios_base::floatfield这个又是什么意思呢?

最后问一下1e7和1.e7有区别吗?
谢谢了。

  • 写回答

1条回答 默认 最新

  • threenewbee 2016-07-24 17:45
    关注

    float的精度比较低。不加f默认是double
    你看到输出结果尾数0.125没有,如果结果是1/2^n,那么就说明是精度不够,因为二进制转换成十进制,结尾必须是1/2^n的倍数

    评论

报告相同问题?

悬赏问题

  • ¥20 ML307A在使用AT命令连接EMQX平台的MQTT时被拒绝
  • ¥20 腾讯企业邮箱邮件可以恢复么
  • ¥15 有人知道怎么将自己的迁移策略布到edgecloudsim上使用吗?
  • ¥15 错误 LNK2001 无法解析的外部符号
  • ¥50 安装pyaudiokits失败
  • ¥15 计组这些题应该咋做呀
  • ¥60 更换迈创SOL6M4AE卡的时候,驱动要重新装才能使用,怎么解决?
  • ¥15 让node服务器有自动加载文件的功能
  • ¥15 jmeter脚本回放有的是对的有的是错的
  • ¥15 r语言蛋白组学相关问题