p2与p3算式是一样的,为什么答案不一样?在人算的角度下,答案应该会是一样的啊。
4条回答 默认 最新
- qzjhjxj 2023-01-25 18:02关注
这是因为计算机保存浮点数时,是把数看作a*(2^b)这样的形式的,而不是我们直观上认为的以10为底数,在计算机内部处理时是以2为底数的,即将数转换成以2为底的“科学计数法”的形式,再由这个形式反转换成10进制形式,但是由于数据有位数的限制,所以有些数转换成二进制计数形式后位数超出了限制的位数,那么超出的位就被截去了,那么转换回来时得到的数就会与原数有偏差,不同的数这个偏差是不同的。p2与p3算式在人算的角度下是一样的,但让计算机去算时就不一定了。
本回答被题主选为最佳回答 , 对您是否有帮助呢?解决 1无用
悬赏问题
- ¥15 宇视监控服务器无法登录
- ¥15 PADS Logic 原理图
- ¥15 PADS Logic 图标
- ¥15 电脑和power bi环境都是英文如何将日期层次结构转换成英文
- ¥15 DruidDataSource一直closing
- ¥20 气象站点数据求取中~
- ¥15 如何获取APP内弹出的网址链接
- ¥15 wifi 图标不见了 不知道怎么办 上不了网 变成小地球了
- ¥50 STM32单片机传感器读取错误
- ¥50 power BI 从Mysql服务器导入数据,但连接进去后显示表无数据