♞♛♞ 2013-01-18 21:20
浏览 360
已采纳

ruby不会乘除法了,这是ruby1.9.3的bug吗?

环境ruby1.8.7下
irb(main):002:0> 0.011*100
=> 1.1
这是正常的。

而在环境ruby1.9.3下
irb(main):008:0> 0.011*100
=> 1.0999999999999999

0.011 * 1000都不会有错,为什么乘100就出错呢?

有哪位大侠能指点一下吗?

  • 写回答

2条回答 默认 最新

  • iteye_1858 2013-01-19 06:15
    关注

    用基于二进制的浮点数表示十进制小数,结果不正常才是正常的。所有使用IEEE 754浮点数标准的语言都有这个问题,跟Ruby本身无关。

    irb(main):001:0> 0.5-0.4
    => 0.09999999999999998
    irb(main):002:0> 0.4-0.3
    => 0.10000000000000003

    scala> 0.5-0.4
    res0: Double = 0.09999999999999998
    scala> 0.4-0.3
    res1: Double = 0.10000000000000003

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题?

悬赏问题

  • ¥100 Jenkins自动化部署—悬赏100元
  • ¥15 关于#python#的问题:求帮写python代码
  • ¥20 MATLAB画图图形出现上下震荡的线条
  • ¥15 关于#windows#的问题:怎么用WIN 11系统的电脑 克隆WIN NT3.51-4.0系统的硬盘
  • ¥15 perl MISA分析p3_in脚本出错
  • ¥15 k8s部署jupyterlab,jupyterlab保存不了文件
  • ¥15 ubuntu虚拟机打包apk错误
  • ¥199 rust编程架构设计的方案 有偿
  • ¥15 回答4f系统的像差计算
  • ¥15 java如何提取出pdf里的文字?