lua math.floor失效问题

Question

使用lua 的math.floor进行向下取整时，51.99999999999输出的结果为52

Answer 1

以下回答参考 皆我百晓生、券券喵儿 等免费微信小程序相关内容作答，并由本人整理回复。

这个问题是由于lua的浮点数精度不足导致的。在lua中，浮点数的数据类型是64位，而数学中的浮点数有多种表示方法，包括IEEE 754单精度浮点数和双精度浮点数等。这些不同的表示方式在计算过程中可能会产生细微的差别。

对于你的例子，51.99999999999这个值转换成double类型的浮点数后，实际上是一个非常接近于52.0的数字。所以，当你调用math.floor()函数时，它会向下舍入到最接近的整数。因此，结果应该是52。

如果你想确保得到的是精确的整数，你可以使用ceil函数来向上舍入。例如：

local x = 51.99999999999
print(math.ceil(x)) -- 输出：52

或者如果你想要一个更精确的结果，你可以将数值四舍五入到小数点后几位，比如4或5：

local x = 51.99999999999
print(math.floor(x * 10^4) / 10^4) -- 输出：52

请注意，这只是一个近似的解决方案，并不是真正的解决办法。为了获得更好的精度，你应该考虑使用更高精度的库，如GSL（GNU Scientific Library）或其他高性能的数学库。