peenyking 2017-03-07 00:59 采纳率: 100%
浏览 1546
已采纳

SQLSERVER float列在触发器中获取的值是科学计数法

SQLSERVER2005中,某个表的某个列的类型为float,并且为这个表创建了insert触发器。
当对表进行insert操作时,触发了触发器,但其中定义变量@A为float类型,通过select
插入的行的float列的值赋值到@A上, 测试使用插入的数据为15.8(在我的测试环境中15.8被赋值为科学计数法是必现的), 但通过调试看到@A
的值却被赋值为1.580000019073486e+001 。
请问各位大神,这个是什么问题,可以怎么解决?
暂时不考虑替换表格列float类型为其他数据类型!

  • 写回答

1条回答 默认 最新

  • Tiger_Zhao 2017-03-07 01:34
    关注

    你的程序有问题。
    SQL Server 的 float 默认是8字节的双精度,你的程序大概用单精度数据类型,原始的值是1.580000e+001。中间单精度换算双精度会产生浮点误差。
    如果你的程序采用双精度数据类型,传入的值已经是1.580000000000000e+001,就没有问题了。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
编辑
预览

报告相同问题?

悬赏问题

  • ¥15 PADS Logic 原理图
  • ¥15 PADS Logic 图标
  • ¥15 电脑和power bi环境都是英文如何将日期层次结构转换成英文
  • ¥20 气象站点数据求取中~
  • ¥15 如何获取APP内弹出的网址链接
  • ¥15 wifi 图标不见了 不知道怎么办 上不了网 变成小地球了
手机看
程序员都在用的中文IT技术交流社区

程序员都在用的中文IT技术交流社区

专业的中文 IT 技术社区,与千万技术人共成长

专业的中文 IT 技术社区,与千万技术人共成长

关注【CSDN】视频号,行业资讯、技术分享精彩不断,直播好礼送不停!

关注【CSDN】视频号,行业资讯、技术分享精彩不断,直播好礼送不停!

客服 返回
顶部