多线程浮点数的累加和求均方差,如何克服浮点数计算不准确的缺点,计算结果存在不确定性怎么解决?
收起
浮点数存在存储的精度误差和进制转换误差,如果你要提高精度,可以考虑用字符数组模拟手工十进制计算,但是性能会比较低。
报告相同问题?