饺子大魔王12138 2022-07-05 16:34 采纳率: 90.9%
浏览 34
已结题

JS开平方存在精度丢失问题吗?

const res = Math.pow(decimal, 0.5)

当decimal为小数的时候,结果会存在精度丢失吗?有没有例子?

  • 写回答

3条回答 默认 最新

  • 虎子8 2022-07-06 16:51
    关注

    丢失 其实不是开平方丢失,而是小数会丢精度。双精度是一个有限的位数,最终肯定会舍弃或者补位,注定小数是会丢精度的。
    具体原因可以看看冴羽大佬的文章 https://segmentfault.com/a/1190000022029495?utm_source=tag-newest

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(2条)

报告相同问题?

问题事件

  • 已结题 (查看结题原因) 7月7日
  • 已采纳回答 7月6日
  • 创建了问题 7月5日