离恨天蓑衣客 2018-05-16 03:37 采纳率: 44.4%
浏览 1707
已采纳

Java中整形向浮点类型强制转换精度丢失问题

这里我就以int转换为float为例。int 在内存中占用四个字节,取值范围是 -2 147 483 648 ~ 2 147 483 6487,float 在内存中占用内存同样是四个字节,取值范围 大约是正负3.40282347E+38F(有效位数6~7位),当我们将一个int整数12345678转换为float类型时,因为他包含的位数比float类型所能表达的位数多,所以会丢失精度。
那么,请问此处提到的float类型的位数是不是说的flaot类型十进制下的有效位数?

  • 写回答

3条回答 默认 最新

  • threenewbee 2018-05-16 03:46
    关注

    但是呢,我们的intel x87 cpu,内部使用的是80位精度,这意味着,中间运算的精度实际上要比double/float的精度高。但是一些编译器会用isse/avx等指令加速,而这些指令的精度就没有那么高了,所以这也是为什么不能直接比较两个浮点数的原因。因为没法保证不同环境下运算的结果精确的一致。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(2条)

报告相同问题?

悬赏问题

  • ¥15 【提问】基于Invest的水源涵养
  • ¥20 微信网友居然可以通过vx号找到我绑的手机号
  • ¥15 spring后端vue前端
  • ¥15 寻一个支付宝扫码远程授权登录的软件助手app
  • ¥15 解riccati方程组
  • ¥15 display:none;样式在嵌套结构中的已设置了display样式的元素上不起作用?
  • ¥15 使用rabbitMQ 消息队列作为url源进行多线程爬取时,总有几个url没有处理的问题。
  • ¥15 Ubuntu在安装序列比对软件STAR时出现报错如何解决
  • ¥50 树莓派安卓APK系统签名
  • ¥65 汇编语言除法溢出问题