namedajipai 2016-10-10 08:47 采纳率: 94.4%
浏览 1260
已采纳

使用vb的字符串出现除不尽的小数,就没有办法判断浮点数的精度了

使用vb的字符串出现除不尽的小数,就没有办法判断浮点数的精度了,怎么让浮点数的转换必须除尽?

  • 写回答

3条回答 默认 最新

  • threenewbee 2016-10-10 09:41
    关注

    可以对结果进行判断,如果尾数小于一个很小的数,就去掉它。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(2条)

报告相同问题?

悬赏问题

  • ¥15 如何解决ldsc的这条报错/index error
  • ¥15 VS2022+WDK驱动开发环境
  • ¥30 关于#java#的问题,请各位专家解答!
  • ¥30 vue+element根据数据循环生成多个table,如何实现最后一列 平均分合并
  • ¥20 pcf8563时钟芯片不启振
  • ¥20 pip2.40更新pip2.43时报错
  • ¥15 换yum源但仍然用不了httpd
  • ¥50 C# 使用DEVMOD设置打印机首选项
  • ¥15 麒麟V10 arm安装gdal
  • ¥20 OPENVPN连接问题