SQLSERVER float列在触发器中获取的值是科学计数法

peenyking 2017-03-07 04:59:07

SQLSERVER2005中，某个表的某个列的类型为float，并且为这个表创建了insert触发器。
当对表进行insert操作时，触发了触发器，但其中定义变量@A为float类型，通过select
插入的行的float列的值赋值到@A上，测试使用插入的数据为15.8（在我的测试环境中15.8被赋值为科学计数法是必现的），但通过调试看到@A
的值却被赋值为1.580000019073486e+001 。
请问各位大神，这个是什么问题，可以怎么解决？
暂时不考虑替换表格列float类型为其他数据类型！

...全文

339 5 打赏收藏转发到动态举报

写回复

用AI写文章

5 条回复

切换为时间正序

请发表友善的回复…

发表回复

peenyking 2017-03-11

打赏
举报

引用 4 楼 Tiger_Zhao 的回复:

用 SQL_VARIANT_PROPERTY 查看常量 1.58 的类型，是定点小数。定点转浮点当然有误差。除非你真有取值“2.23E-308 至 1.79E+308”这样大范围的变动，尽量用定点类型。
PRINT CONVERT(varchar(20),SQL_VARIANT_PROPERTY(1.58,'BaseType'))  +'('+
      CONVERT(varchar(20),SQL_VARIANT_PROPERTY(1.58,'Precision')) +','+
      CONVERT(varchar(20),SQL_VARIANT_PROPERTY(1.58,'Scale'))     +')'
numeric(3,2)

小弟愚昧，还是没有明白解决办法。看来只能改变数据类型了

Tiger_Zhao 2017-03-10

打赏
举报

用 SQL_VARIANT_PROPERTY 查看常量 1.58 的类型，是定点小数。
定点转浮点当然有误差。
除非你真有取值“2.23E-308 至 1.79E+308”这样大范围的变动，尽量用定点类型。

PRINT CONVERT(varchar(20),SQL_VARIANT_PROPERTY(1.58,'BaseType'))  +'('+

      CONVERT(varchar(20),SQL_VARIANT_PROPERTY(1.58,'Precision')) +','+

      CONVERT(varchar(20),SQL_VARIANT_PROPERTY(1.58,'Scale'))     +')'

numeric(3,2)

peenyking 2017-03-09

打赏
举报

引用 2 楼 Tiger_Zhao 的回复:

问答区已经回答过你了：SQLSERVER float列在触发器中获取的值是科学计数法最恨一题多问的人了

哈哈，这里给你送分咯我还是没理解。现在我的操作都在Microsoft SQL Server Management Studio里面进行的。创建表格： create table tablename { id int primary key, num float, } 触发器： create trigger tgr_tablename_insert on tablename for insert as set nocount on declare @num float select @num=num from inserted 插入语句： insert into tablename values(1.58) 运行insert语句时，调试触发器，里面@num获取的值就成科学计数法了。（貌似好像有的数字插入的时候不会成这个样子的数字）