3条回答 默认 最新
- 我是混子我怕谁 2019-10-03 12:02关注
我用十进制数给你举个例子吧
有两个数x、y(x和y都用科学计数法表示,并且两个数都保留4位有效数字),其中
x=0.2344 * 10^-2,y=0.1342 * 10^-4
求x+y,计算结果保留4位有效数字
由于x,y的阶数不同,所以无法直接相加,为了保存数据的准确性,阶数小的向阶数大的看齐
于是y=0.001342 * 10^-2,
得出x+y=0.235742 * 10^-2,
这时就需要损失精度,舍弃0.000042 * 10^-2来保证结果,舍弃的部分就是向下溢出。
不知道你能不能懂,表达能力有限,我觉得我还是讲的比较清楚了。解决 2无用 1
悬赏问题
- ¥15 maple软件,用solve求反函数出现rootof,怎么办?
- ¥50 汇编语言除法溢出问题
- ¥65 C++实现删除N个数据列表共有的元素
- ¥15 Visual Studio问题
- ¥15 state显示变量是字符串形式,但是仍然红色,无法引用,并显示类型不匹配
- ¥20 求一个html代码,有偿
- ¥100 关于使用MATLAB中copularnd函数的问题
- ¥20 在虚拟机的pycharm上
- ¥15 jupyterthemes 设置完毕后没有效果
- ¥15 matlab图像高斯低通滤波