老师我作业忘带了 2022-07-07 02:07 采纳率: 100%
浏览 110
已结题

python循环小数精度问题

如图 牛客网刷题:

img


双精度浮点数float64精确到小数点后16位
而我计算过程中会生成如[0.6666666666666666, 0.3333333333333333]这样的数据导致精度出现问题
对于这种循环小数如果能0.3333333333333334就好了
我采取的办法:1. 换算成ndarray数组comple128不行 2. 使用decimal也不行(用到log等函数) 3. 不能先不处理成非小数的形式 如1/3
有效办法:面向答案编程

想要请教如何控制这种精度 感谢

  • 写回答

4条回答 默认 最新

  • 溪风沐雪 2022-07-07 09:43
    关注

    你可以把具体的题目贴一下,然后看看到底是个什么情况,为什么不能用decimal,因为16位以后除了decimal也没有其他好的办法去控制精确度了

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(3条)

报告相同问题?

问题事件

  • 系统已结题 7月17日
  • 已采纳回答 7月9日
  • 专家修改了标签 7月7日
  • 创建了问题 7月7日

悬赏问题

  • ¥15 帮我调试idea基于spring boot项目
  • ¥15 es 7.17.20版本生成时间戳
  • ¥15 wpf dategrid表头排序图标自定义
  • ¥15 分析下图所示同步时序逻辑电路的逻辑功能。
  • ¥15 halcon联合c#遇到了问题不能解决
  • ¥15 xshell无法连接提示ssh服务器拒绝密码
  • ¥15 AT89C52单片机C语言关于串口通信的位操作
  • ¥20 需要步骤截图(标签-服务器|关键词-map)
  • ¥50 gki vendor hook
  • ¥15 灰狼算法和蚁群算法如何结合