王孙不归 2022-09-23 17:37 采纳率: 0%
浏览 4

ruby浮点除法结果错误(精度问题?)

问题遇到的现象和发生背景

ruby开发数值计算百分比

用代码块功能插入代码,请勿粘贴截图
p 1.0/3
p 10.0/3
p 100.0/3
p 1000.0/3
p 10000.0/3
p 100000.0/3

运行结果及报错内容

0.3333333333333333
3.3333333333333335
33.333333333333336
333.3333333333333
3333.3333333333335
33333.333333333336

我的解答思路和尝试过的方法

为啥会有这样基础的离谱计算错误呢?

  • 写回答

1条回答

      报告相同问题?

      相关推荐 更多相似问题

      问题事件

      • 创建了问题 9月23日

      悬赏问题

      • ¥20 苹果app名字侵权商标,我投诉了,但是苹果一直没回怎么办
      • ¥15 Android studio运行不成功总是报错
      • ¥15 pycharm 加载软件包列表时出错connect timed out
      • ¥15 和您碰到了同一个问题
      • ¥15 如何在微信支付V3PHP版请求中添加header?
      • ¥15 在数字信号处理中用MATLAB显示波形。
      • ¥15 keil MDK软件进行仿真调试的局限
      • ¥15 关于gateway产生临时文件夹的问题
      • ¥15 Java Broken Pipe以及OOM
      • ¥20 请问有没有RTL8211FS的参考原理图