2 lrj1596 lrj1596 于 2016.03.20 01:07 提问

我懂!是进制的问题导致Java的double型运算结果显示有精度问题,但是!! 20C

但是,做笔试的时候,遇到这样一道题:
下列表达式中,可以得到精确结果的是哪些?
A、double d1 = 3.0-2.6;
B、double d2 = 2.5*1.5;
C、double d3 = 3.0-2.5;
D、double d4 = 1.0-0.6;
E、double d5 = 4.015*100;
F、double d6 = 4.015*10;

实在是遇到这样的挫科的题目,我临场时该怎么解噜?!总不能写上一句这是由于进制转换的问题导致的。选项由老师你自己挑哈~~bye~

4个回答

caozhy
caozhy   Ds   Rxr 2016.03.20 06:57

你想复杂了,对于加减乘,能得到精确结果(注意这个精确结果不是指tostring后的结果,就是double的结果)的条件是,参与运算的数本身可以用二进制精确表示。
对于除法,除此之外,结果也要可以精确表示。
根据如上规则,b c可以。

lrj1596
lrj1596 可是正确答案是BCDF
一年多之前 回复
xionglangs
xionglangs   Rxr 2016.03.20 09:44

如果能够正常转换,那么它的值就是准确的,只要没操过它的精度,那么值就是准确的,如果操过了它的精度,计算机就会进行截取运算,所以了解这个问题就需要先了解十进制小数部分转二进制的规制,规制如下:
十进制小数转换成二进制小数采用"乘2取整,顺序排列"法。具体做法是:用2乘十进制小数,可以得到积,将积的整数部分取出,再用2乘余下的小数部分,又得到一个积,再将积的整数部分取出,如此进行,直到积中的小数部分为零,或者达到所要求的精度为止。
然后把取出的整数部分按顺序排列起来,先取的整数作为二进制小数的高位有效位,后取的整数作为低位有效位。
0.425
0.425x2=0.85
0.85x2=1.7
0.7x2=1.4
0.4x2=0.8
0.8x2=1.6
0.6x2=1.2
....
0.425=011011B
不都是无限循环,如0.5=0.1B
就会出现一些它们本身就不能转化为准确的数字,比如小数点后面是2的,这时候,就会直接截取,精度已经不对了,之后的值的精度肯定也不对。
至于你想算出它们的值,就需要先了解float和double的精度,再获取这两个值截取或不用截取的二进制数据,再进行二进制运算,再进行二进制转十进制运算,最终得出值。

lrj1596
lrj1596 听你说的方法的感觉,好像要研究得很深啊……这只是个初级程序员的笔试,怎么会这样?
一年多之前 回复
lrj1596
lrj1596 那如果是你面对这道笔试题,你会用什么方法找出正确答案? 正确答案是BCDF
一年多之前 回复
ReverieLin
ReverieLin   2016.03.21 16:26

请问有谁知道F是怎么算出来的吗?我算了好久也不明白F为什么也是精确的~

lrj1596
lrj1596 照这么说,你把D算出来了?1.0-0.6到底是怎么算出来的???为什么是精确的?!大哥救命啊!
一年多之前 回复
bdmh
bdmh   Ds   Rxr 2016.03.20 06:55
Csdn user default icon
上传中...
上传图片
插入图片
准确详细的回答,更有利于被提问者采纳,从而获得C币。复制、灌水、广告等回答会被删除,是时候展现真正的技术了!