如图 牛客网刷题:
双精度浮点数float64精确到小数点后16位
而我计算过程中会生成如[0.6666666666666666, 0.3333333333333333]这样的数据导致精度出现问题
对于这种循环小数如果能0.3333333333333334就好了
我采取的办法:1. 换算成ndarray数组comple128不行 2. 使用decimal也不行(用到log等函数) 3. 不能先不处理成非小数的形式 如1/3
有效办法:面向答案编程
想要请教如何控制这种精度 感谢
如图 牛客网刷题:
想要请教如何控制这种精度 感谢
你可以把具体的题目贴一下,然后看看到底是个什么情况,为什么不能用decimal,因为16位以后除了decimal也没有其他好的办法去控制精确度了