2 jujiawu1024 jujiawu1024 于 2016.04.11 16:46 提问

多线程如何克服浮点数计算不准确的缺点?

多线程浮点数的累加和求均方差,如何克服浮点数计算不准确的缺点,计算结果存在不确定性怎么解决?

2个回答

caozhy
caozhy   Ds   Rxr 2016.04.17 03:48
已采纳

浮点数存在存储的精度误差和进制转换误差,如果你要提高精度,可以考虑用字符数组模拟手工十进制计算,但是性能会比较低。

wojiushiwo945you
wojiushiwo945you   Ds   Rxr 2016.04.11 17:41

那要看你是什么语言,什么开发环境了?在java中,有一个BigDecimal可以提供精确的数值计算的。

Csdn user default icon
上传中...
上传图片
插入图片
准确详细的回答,更有利于被提问者采纳,从而获得C币。复制、灌水、广告等回答会被删除,是时候展现真正的技术了!
其他相关推荐
解决js浮点数计算不准确问题
最近在学习electron框架,想利用这个框架做一个简单的计算器demo。当我对小数进行运算时,发现了一个问题。 0.1+0.2=? 输出结果是:0.30000000000000004。      为什么会这样呢?      其实对于浮点数的四则运算,几乎所有的编程语言都会有类似精度误差的问题,只不过在 C++/C#/Java 这些语言中已经封装好了方法来避免精度的问题,而 JavaScr
解决javascript中的浮点数计算不精确问题
在javascript中的浮点数计算不准确。javascript的两个浮点数算法结果会有误差。 加减法 原理:取小数位多的一个(Math.max(r1,r2))将加数都乘以10的m次方(变成整数)相加后再除以m,得出精确数据 乘除法 原理:将乘数和被乘数转成字符串,计算其小数点后位数的和(m)将乘数和被乘数去掉小数点(转成整数)后,转为Number类型(可以精确乘运
浮点数为什么不精确?
浮点数为什么不精确?其实这句话本身就不精确, 相对精确一点的说法是: 我们码农在程序里写的10进制小数,计算机内部无法用二进制的小数来精确的表达。什么是二进制的小数? 就是形如 101.11 数字,注意,这是二进制的,数字只能是0和1。 101.11 就等于 1 * 2^2 +0 *2^1 + 1*2^0 + 1*2^-1 + 1*2^-2 = 4+0+1+1/2+1/4 = 5.75 下面的图
java梳理-浮点类型计算为什么不准确
本文属于java基础梳理系列:原问题:62、浮点类型为什么有时候不精确,详细说出来,怎么解决先来看个demo:import java.math.BigDecimal;/** * * @author zhangliang * * 2016年3月30日 下午5:58:39 */public class FloatTest { public static void main(String[] args
浮点数不精确的问题
翻译资料:https://en.wikipedia.org/wiki/Floating_point#Accuracy_problemsNOTE:(一)如果大家对于十进制浮点数如何转换为二进制浮点数不太清楚建议复习一下再看这篇文章,参考资料的地址 1. http://www.cnblogs.com/xkfz007/articles/2590472.html 2. http://geeklu.co
124.浮点型数据精度不准确的探究
最近接手了一个新的项目, 项目中也涉及到了关于小数的计算, 项目中也并不是使用的Decimal来计算的, 所以又发现了浮点数据精度不准确的问题。
java浮点数运算不准确问题的解决
今天遇到了这样的问题,就是浮点运算后数据比较出现错误,郁闷了半天,网上查了资料才发现浮点数直接用双目运算符连接会出现结果不准确问题。解决方法如下: 1。所有浮点运算都在数据库内做好,也就是都用sql实现了 2。用BigDecimal实现,方法如下(仅仅是个例子): import java.math.BigDecimal; public class tt {  /**   * @para
python 浮点数精确运算解决方案
浮点数误差浮点数一个普遍的问题就是在计算机的世界中,浮点数并不能准确地表示十进制。并且,即便是最简单的数学运算,也会带来不可控制的后果。因为,在计算机的世界中只认识0与1。>>> x = 4.20 >>> y = 2.10 >>> x + y 6.3000000000000007 >>> (x+y) == 6.3 False >>> x = 1.2 >>> y = 2.3 >>> x + y 3.5
关于js浮点数计算精度不准确问题
关于js浮点数计算精度不准确问题 今天在计算总价格(单价*数量)时发现关于js浮点数计算精度不准确问题。以前在做项目的时候也发现过这个问题,当时是加法运算所有给每个数都乘以100,在把两个数的和除以100,能够解决这个问题,但是尤其在乘法运算时这个计算精度不准确的问题很多。上面那个方法已经解决不了了 如下所示: 0.1+0.2 0.30000000000000004 (0.1*100+
JavaScript对浮点小数运算结果不精确bug的解决办法
JavaScript对浮点小数运算结果不精确bug的解决办法