饺子大魔王12138 2022-07-05 16:34 采纳率: 88.9%
浏览 32
已结题

JS开平方存在精度丢失问题吗?

const res = Math.pow(decimal, 0.5)

当decimal为小数的时候,结果会存在精度丢失吗?有没有例子?

  • 写回答

3条回答 默认 最新

  • 虎子8 2022-07-06 16:51
    关注

    丢失 其实不是开平方丢失,而是小数会丢精度。双精度是一个有限的位数,最终肯定会舍弃或者补位,注定小数是会丢精度的。
    具体原因可以看看冴羽大佬的文章 https://segmentfault.com/a/1190000022029495?utm_source=tag-newest

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(2条)

报告相同问题?

问题事件

  • 已结题 (查看结题原因) 7月7日
  • 已采纳回答 7月6日
  • 创建了问题 7月5日

悬赏问题

  • ¥20 Java-Oj-桌布的计算
  • ¥15 请问如何在openpcdet上对KITTI数据集的测试集进行结果评估?
  • ¥15 powerbuilder中的datawindow数据整合到新的DataWindow
  • ¥20 有人知道这种图怎么画吗?
  • ¥15 pyqt6如何引用qrc文件加载里面的的资源
  • ¥15 安卓JNI项目使用lua上的问题
  • ¥20 RL+GNN解决人员排班问题时梯度消失
  • ¥60 要数控稳压电源测试数据
  • ¥15 能帮我写下这个编程吗
  • ¥15 ikuai客户端l2tp协议链接报终止15信号和无法将p.p.p6转换为我的l2tp线路