浮点数与0比较大小时,取的1e-6是什么意思?还能有1e这种表达式?
2条回答 默认 最新
qq_1113502097 2021-10-27 09:28关注1e-6 是科学计数法的表达式。表示1×10的-6次幂。在比较大小时,由于浮点数的存储方式,并不是任意一个数值都能被浮点数精确表达出来。实际上表达的可能是一个数的近似值。因此在与0比较的时候,一般会取一个精度范围,在精度范围内认为两个数是相等的。
本回答被题主选为最佳回答 , 对您是否有帮助呢?评论 打赏 举报解决 1无用
1e-6 是科学计数法的表达式。表示1×10的-6次幂。在比较大小时,由于浮点数的存储方式,并不是任意一个数值都能被浮点数精确表达出来。实际上表达的可能是一个数的近似值。因此在与0比较的时候,一般会取一个精度范围,在精度范围内认为两个数是相等的。