精度主要取决于尾数部分的位数,float为23位,最小为2的-23次方,约等于1.19乘以10的-7次方,所以float小数部分只能精确到后面6位,加上前面自动省略的 1 ,即有效数字为7位。
我有程序如下:
#include<stdio.h>
int main()
{
float a = 123456789;
float b = (float)(1 << 30);
printf("%f\n", a);
printf("%f\n", b);
return 0;
}
定义两个浮点数,第一个赋值123456789,一共9位有效数字,根据前面的说法应该是会有精度遗失的,第二个数是2的30次方,等于1 073 741 824,也是会有精度遗失的,但是输出结果确实下面这样的:
可以看到前面一个属确实有精度遗失,但是第二个数却没有精度遗失,这是为什么呢?