SQLSERVER float列在触发器中获取的值是科学计数法

SQLSERVER2005中,某个表的某个列的类型为float,并且为这个表创建了insert触发器。
当对表进行insert操作时,触发了触发器,但其中定义变量@A为float类型,通过select
插入的行的float列的值赋值到@A上, 测试使用插入的数据为15.8(在我的测试环境中15.8被赋值为科学计数法是必现的), 但通过调试看到@A
的值却被赋值为1.580000019073486e+001 。
请问各位大神,这个是什么问题,可以怎么解决?
暂时不考虑替换表格列float类型为其他数据类型!

1个回答

你的程序有问题。
SQL Server 的 float 默认是8字节的双精度,你的程序大概用单精度数据类型,原始的值是1.580000e+001。中间单精度换算双精度会产生浮点误差。
如果你的程序采用双精度数据类型,传入的值已经是1.580000000000000e+001,就没有问题了。

Tiger_Zhao
Tiger_Zhao 回复peenyking: 已在帖子中回复 http://bbs.csdn.net/topics/392101095
大约 3 年之前 回复
peenyking
peenyking 请问Microsoft SQL Server Management Studio查询窗口中执行的语句里直接填写1.58 就确定了值为单精度了吗?
大约 3 年之前 回复
peenyking
peenyking 创建的表格字段是float,触发器里声明的表里也是float来接收这个字段的值,测试是使用insert语句来插入的,例如insert into tablename values(1.58)
大约 3 年之前 回复
Csdn user default icon
上传中...
上传图片
插入图片
抄袭、复制答案,以达到刷声望分或其他目的的行为,在CSDN问答是严格禁止的,一经发现立刻封号。是时候展现真正的技术了!
立即提问
相关内容推荐