qq_21955687 2017-10-26 06:42 采纳率: 0%
浏览 1365

处理8位float类型数据保证精度

在工作时需要把一个二进制文件转换,然后保存到数据库。其中有float型的数据。但是这个数据经常是长达8位的整数,在处理时发现会出现精度丢失的情况。请问如何在不使用科学记数法的同时保证这个数据的精度。

  • 写回答

3条回答 默认 最新

  • u012309389 2017-10-26 07:54
    关注

    用String或者Bigdecimal来保存.需要计算的时候再转化为float

    评论

报告相同问题?

悬赏问题

  • ¥15 maple软件,用solve求反函数出现rootof,怎么办?
  • ¥50 汇编语言除法溢出问题
  • ¥65 C++实现删除N个数据列表共有的元素
  • ¥15 Visual Studio问题
  • ¥15 state显示变量是字符串形式,但是仍然红色,无法引用,并显示类型不匹配
  • ¥20 求一个html代码,有偿
  • ¥100 关于使用MATLAB中copularnd函数的问题
  • ¥20 在虚拟机的pycharm上
  • ¥15 jupyterthemes 设置完毕后没有效果
  • ¥15 matlab图像高斯低通滤波