老师我作业忘带了 2022-07-07 02:07 采纳率: 100%
浏览 110
已结题

python循环小数精度问题

如图 牛客网刷题:

img


双精度浮点数float64精确到小数点后16位
而我计算过程中会生成如[0.6666666666666666, 0.3333333333333333]这样的数据导致精度出现问题
对于这种循环小数如果能0.3333333333333334就好了
我采取的办法:1. 换算成ndarray数组comple128不行 2. 使用decimal也不行(用到log等函数) 3. 不能先不处理成非小数的形式 如1/3
有效办法:面向答案编程

想要请教如何控制这种精度 感谢

  • 写回答

4条回答 默认 最新

  • 溪风沐雪 2022-07-07 09:43
    关注

    你可以把具体的题目贴一下,然后看看到底是个什么情况,为什么不能用decimal,因为16位以后除了decimal也没有其他好的办法去控制精确度了

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(3条)

报告相同问题?

问题事件

  • 系统已结题 7月17日
  • 已采纳回答 7月9日
  • 专家修改了标签 7月7日
  • 创建了问题 7月7日

悬赏问题

  • ¥15 matlab不知道怎么改,求解答!!
  • ¥15 永磁直线电机的电流环pi调不出来
  • ¥15 用stata实现聚类的代码
  • ¥15 请问paddlehub能支持移动端开发吗?在Android studio上该如何部署?
  • ¥20 docker里部署springboot项目,访问不到扬声器
  • ¥15 netty整合springboot之后自动重连失效
  • ¥15 悬赏!微信开发者工具报错,求帮改
  • ¥20 wireshark抓不到vlan
  • ¥20 关于#stm32#的问题:需要指导自动酸碱滴定仪的原理图程序代码及仿真
  • ¥20 设计一款异域新娘的视频相亲软件需要哪些技术支持