这里我就以int转换为float为例。int 在内存中占用四个字节,取值范围是 -2 147 483 648 ~ 2 147 483 6487,float 在内存中占用内存同样是四个字节,取值范围 大约是正负3.40282347E+38F(有效位数6~7位),当我们将一个int整数12345678转换为float类型时,因为他包含的位数比float类型所能表达的位数多,所以会丢失精度。
那么,请问此处提到的float类型的位数是不是说的flaot类型十进制下的有效位数?
Java中整形向浮点类型强制转换精度丢失问题
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
- 邀请回答
-
3条回答 默认 最新
- threenewbee 2018-05-16 03:46关注
但是呢,我们的intel x87 cpu,内部使用的是80位精度,这意味着,中间运算的精度实际上要比double/float的精度高。但是一些编译器会用isse/avx等指令加速,而这些指令的精度就没有那么高了,所以这也是为什么不能直接比较两个浮点数的原因。因为没法保证不同环境下运算的结果精确的一致。
本回答被题主选为最佳回答 , 对您是否有帮助呢?解决 无用评论 打赏 举报
悬赏问题
- ¥15 执行 virtuoso 命令后,界面没有,cadence 启动不起来
- ¥50 comfyui下连接animatediff节点生成视频质量非常差的原因
- ¥20 有关区间dp的问题求解
- ¥15 多电路系统共用电源的串扰问题
- ¥15 slam rangenet++配置
- ¥15 有没有研究水声通信方面的帮我改俩matlab代码
- ¥15 ubuntu子系统密码忘记
- ¥15 保护模式-系统加载-段寄存器
- ¥15 电脑桌面设定一个区域禁止鼠标操作
- ¥15 求NPF226060磁芯的详细资料