0.1 x 17得到1.7000000000000002我懂，这个是因为十进制0.1转换为无限循环的二进制导致的。为什么0.1 * 170可以得到17，0.1没有转换成无限循环的二进制吗
计算机精度0.1*1000为什么可以正常处理?0.1不是应该转换为无限循环的二进制吗
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
分享- 邀请回答
-
1条回答 默认 最新
王能 2019-12-24 15:46关注精度丢失正常啊，后面有冗余的数值，完全看运气而已
如果写出来就变成0.1000000000000001，那计算机还需要小数干嘛，写出来就是错的
如果需要计算小数，建议在得到小数时不要进行任何运算先立即转成BigDecimal我无法直接回复
你下面评论的0.1*170结果肯定是17.000...x，只不过刚好符和17的值（误差范围之内），所以后面的被忽略了（不是丢失，经度丢失的意思是0.1在2进制里无法表示出来，会出现误差）问答版主就是牛，从现在起只回论坛，不在踏入问答半步
解决 无用评论 打赏举报 分享
- 2023-02-23 22:01回答 3 已采纳 用例子解释比较清楚，例如：浮点数3.0，二进制表示为011.000，也就是2+1浮点数0.5，二进制表示为000.100，也就是0+½，也就是0+0.5浮点数0.75，二进制表示为000.110，也就
- 2022-07-11 14:44回答 2 已采纳 1.是不是递归算法结果一定要用return返回不是，但是一定要有退出条件，使得不会无限递归下去。比如本例的正确答案中，当n为0的时候，不再递归。而要不要返回结果，通常是要看你希望通过运行程序得到什么结
- 2020-07-21 17:57回答 1 已采纳 https://blog.csdn.net/weixin_30256505/article/details/94955889
- 2021-03-09 23:53dannypostmaa的博客 在js中，会经常的遇到浮点数精度问题(0.1+0.2)，我们都知道是因为转换成二进制的时候产生无限循环小数，而js的尾数部分只能保存52位，出现截取取一舍零造成的；但是现在深挖一下：、const s = 0.1console.log(s)//s=...
- 2022-12-29 16:45回答 3 已采纳 请采纳： //十进制转二进制 public static String binary2Decimal(int num){ String str = "";
- 2021-09-11 12:31回答 2 已采纳 a = int(input('请输入左边界值:')) b = int(input('请输入右边界值:')) print() for i in range(a, b + 1): print('
- 2022-04-13 18:48回答 2 已采纳 0开头就是表示八进制值，1-9开头是十进制值，0x或者0X开头是16进制值
- 2021-06-24 11:45欌月的博客 最近在学习JS过程中发现在计算机JS时发现了一个非常有意思事，0.1+0.2的结果不是0.3，而是0.30000000000000004，但先将小数做乘法然后相加，再除回来就得到想要的0.3我用python试了一下，发现python也是一样的，结果...
- 2022-01-25 23:25回答 1 已采纳 因为char在java中是占用两个字节的char a = 0b10000000;实际上二进制是这样的00000000 10000000，这样是不是就明白了，实际上符号位还是0要测试一个字节的数据需要这
- 2022-04-16 22:55回答 1 已采纳 public static void main(String[] args) { long t1 = System.nanoTime(); long result =
- 2020-06-14 09:54回答 1 已采纳 进制转换的思想都是一样的，指数 radix 不同，转换24进制的思路跟转换十进制是一样的。 但是有一个问题是转换24进制后怎么存储呢？ 现在计算机只支持十进制、八进制、十六进制的存储。那么如果转换
- 2019-07-25 11:06老马历写记的博客 之前写过一篇“谈谈JavaScript的算数运算、浮点数二进制表示舍入误差及比较、类型转换和变量声明提前问题”，当时主要是阐述浮点数运算产生的舍入误差及js类型转换和变量申明提前问题，所以只是略微提及了js中浮点数...
- 2022-03-04 12:40回答 1 已采纳 你print一个fun的返回值0啊
- 2023-03-26 19:46F冷鲜肉的博客 false,因为有些浮点数不能完全精确的表示出来。原因：那么问题来了为什么浮点数不能精确的...问题就出在十进制小数和二进制小数之间的转换上，在转换时浮点数的小数位容易陷入循环，所以计算机只能截取一部分进行运算
- 2021-07-21 22:17「已注销」的博客 我们在 JavaScript 里执行 0.1 + 0.2，会得到下面这个结果： 那今天，我们来思考几个问题： 为什么负数要用补码表示？...十进制转换二进制的方法相信大家都熟能生巧了，如果你说你还不知道，我觉得...
- 没有解决我的问题, 去提问
悬赏问题
- ¥15 程序不包含适用于入口点的静态Main方法
- ¥15 素材场景中光线烘焙后灯光失效
- ¥15 请教一下各位，为什么我这个没有实现模拟点击
- ¥15 执行 virtuoso 命令后，界面没有，cadence 启动不起来
- ¥50 comfyui下连接animatediff节点生成视频质量非常差的原因
- ¥20 有关区间dp的问题求解
- ¥15 多电路系统共用电源的串扰问题
- ¥15 slam rangenet++配置
- ¥15 有没有研究水声通信方面的帮我改俩matlab代码
- ¥15 ubuntu子系统密码忘记