SQLSERVER2005中,某个表的某个列的类型为float,并且为这个表创建了insert触发器。
当对表进行insert操作时,触发了触发器,但其中定义变量@A为float类型,通过select
插入的行的float列的值赋值到@A上, 测试使用插入的数据为15.8(在我的测试环境中15.8被赋值为科学计数法是必现的), 但通过调试看到@A
的值却被赋值为1.580000019073486e+001 。
请问各位大神,这个是什么问题,可以怎么解决?
暂时不考虑替换表格列float类型为其他数据类型!
SQLSERVER float列在触发器中获取的值是科学计数法
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
- 邀请回答
-
1条回答 默认 最新
- Tiger_Zhao 2017-03-07 09:34关注
你的程序有问题。
SQL Server 的 float 默认是8字节的双精度,你的程序大概用单精度数据类型,原始的值是1.580000e+001
。中间单精度换算双精度会产生浮点误差。
如果你的程序采用双精度数据类型,传入的值已经是1.580000000000000e+001
,就没有问题了。本回答被题主选为最佳回答 , 对您是否有帮助呢?解决 无用评论 打赏 举报
悬赏问题
- ¥60 求直线方程 使平面上n个点在直线同侧并且距离总和最小
- ¥50 java算法,给定试题的难度数量(简单,普通,困难),和试题类型数量(单选,多选,判断),以及题库中各种类型的题有多少道,求能否随机抽题。
- ¥50 rk3588板端推理
- ¥250 opencv怎么去掉 数字0中间的斜杠。
- ¥15 这种情况的伯德图和奈奎斯特曲线怎么分析?
- ¥250 paddleocr带斜线的0很容易识别成9
- ¥15 电子档案元素采集(tiff及PDF扫描图片)
- ¥15 flink-sql-connector-rabbitmq使用
- ¥15 zynq7015,PCIE读写延时偏大
- ¥15 使用spss做psm(倾向性评分匹配)遇到问题