请教是sql 2005的bug吗?

longsky 2008-10-28 09:12:08
float字段 num

select 83.09*num as Exp1 from 任意表

如果num=40 那么 Exp1为会等于多少?
sql 2005 告诉 我 EXP1=3323.6000000000004
同样的 83.29 83.59 83.79,或者随便一个小数是 09的数,计算都可能多一位很小小的小数

这是为什么呢?

哪位朋友知道啊,要如何避免呢




...全文
56 6 打赏 收藏 转发到动态 举报
写回复
用AI写文章
6 条回复
切换为时间正序
请发表友善的回复…
发表回复
rucypli 2008-10-28
  • 打赏
  • 举报
回复
float 和 real
用于表示浮点数字数据的近似数字数据类型。浮点数据为近似值;并非数据类型范围内的所有数据都能精确地表示。

wzgundamqd 2008-10-28
  • 打赏
  • 举报
回复
受教了
takeshe 2008-10-28
  • 打赏
  • 举报
回复
学习
等不到来世 2008-10-28
  • 打赏
  • 举报
回复
计算机只会算加减法和位移操作,
所以把乘法化为近似的操作来处理,
因此产生一些误差,而返回值又没有对小数位进行限制,
所以才会这样。
等不到来世 2008-10-28
  • 打赏
  • 举报
回复
好像没那个问题吧,不知道你具体怎么算的。

declare @num float
set @num=83.09
select @num*40

select 83.09*40
select cast(83.09*40 as float)
select cast(83.09*40 as decimal(18,2))
/*

----------------------
3323.6

(1 row(s) affected)

---------------------------------------
3323.60

(1 row(s) affected)

----------------------
3323.6

(1 row(s) affected)

---------------------------------------
3323.60

(1 row(s) affected)
*/
xuexi456 2008-10-28
  • 打赏
  • 举报
回复
sql2000也一样

最好不要用float数据类型

用 numeric

22,210

社区成员

发帖
与我相关
我的任务
社区描述
MS-SQL Server 疑难问题
社区管理员
  • 疑难问题社区
  • 尘觉
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧