加油阿七
2018-12-18 14:53c++中的浮点数运算问题
5项目里用到了浮点数运算 double型变量,但是计算的结果不正确。
相关代码:
double quickTubao::getarea(vertice p1, vertice p2,vertice p3)
{
double area1 = p1.x*p2.z;
double area2 = p2.x*p3.z;
double area3 = p3.x*p1.z;
double area7 = area1+area2+area3;
double area4 = p1.z*p2.x;
double area5 = p2.z*p3.x;
double area6 = p3.z*p1.x;
double area8 = area4+area5+area6;
return area7-area8;
}
但是每次调试的计算结果并不正确:
小数点后面全部被置为了0,这是什么原因呢?
- 点赞
- 回答
- 收藏
- 复制链接分享
2条回答
为你推荐
- 多线程浮点数计算效率,工作站不如笔记本?
- c++
- 1个回答
- vs2010 MFC 字符串表达式的计算,含整数,小数,加减乘除括号等。
- c++
- 3个回答
- vs2010 MFC 问一个关于浮点数小数点的处理
- c++
- 3个回答
- 用fix函数能不能将浮点数转换为没有多余尾数的字符串,并且判断它的精度?
- 1个回答
- 一个MFC求幂指数函数和求导结合的问题
- mfc
- 1个回答
换一换