java数据转换中,出现精度丢失提示,想请大佬们解释一下什么是精度丢失,这个地方有点迷糊
2条回答 默认 最新
- Tsui丶 2017-09-26 02:59关注
比如说 double 和float double精度有15~16位 float只有6~7位
从这里可以看出来 double是可以比float 多9位小数的 这就很简单啦 学过数学都知道的
比如 0.12555(5位小数) 转换成只能存4位小数的 那么就需要四舍五入了 0.1256(四位小数) 这与原数据相比准确度发生了改变 就是所谓的精度丢失了
本回答被题主选为最佳回答 , 对您是否有帮助呢?解决 1无用 1
悬赏问题
- ¥15 公交车和无人机协同运输
- ¥15 stm32代码移植没反应
- ¥15 matlab基于pde算法图像修复,为什么只能对示例图像有效
- ¥100 连续两帧图像高速减法
- ¥15 组策略中的计算机配置策略无法下发
- ¥15 如何绘制动力学系统的相图
- ¥15 对接wps接口实现获取元数据
- ¥20 给自己本科IT专业毕业的妹m找个实习工作
- ¥15 用友U8:向一个无法连接的网络尝试了一个套接字操作,如何解决?
- ¥30 我的代码按理说完成了模型的搭建、训练、验证测试等工作(标签-网络|关键词-变化检测)