百分问个问题,decimal与float

XM_Alex 2009-06-16 11:24:06
现在做一个计费的功能,存在数据库的价格相关字段我用的float ,float拿来计算精度怎么样?会不会出现计算误差?需要不需要转decimal类型??
...全文
497 43 打赏 收藏 转发到动态 举报
写回复
用AI写文章
43 条回复
切换为时间正序
请发表友善的回复…
发表回复
msdn_3g 2010-01-23
  • 打赏
  • 举报
回复
学习了
brucenan999 2009-06-18
  • 打赏
  • 举报
回复
不要用float,float是一个约数,你想保存的值和实际存储的值不一定一致,尤其是小数字后几位.

decimal是一个确数,它应该是把整数和小数分开保存,至少你存进去和你取出来的是一致的.
  • 打赏
  • 举报
回复
推荐使用Decimal类型。
wg961423 2009-06-17
  • 打赏
  • 举报
回复
[Quote=引用 2 楼 csdyyr 的回复:]
用decimal(38,2), float只是个近似数。
[/Quote]


支持
chowyi 2009-06-16
  • 打赏
  • 举报
回复
一致认为decimal
武哥博文 2009-06-16
  • 打赏
  • 举报
回复
一般情况下,float也不会有问题,但是为了精度准确,特别是需要用数值进行比较,还是使用decimal为好
光宇广贞 2009-06-16
  • 打赏
  • 举报
回复
精度就要求decimal,10位的精度,float太短了。
Jamin_Liu 2009-06-16
  • 打赏
  • 举报
回复
numeric,decimal是精确数字
float,real是浮点数,近似值
soft_wsx 2009-06-16
  • 打赏
  • 举报
回复
用DECIMAL()类型,可指定精度,float,real不可
feixianxxx 2009-06-16
  • 打赏
  • 举报
回复
转换 decimal 和 numeric 数据

对于 decimal 和 numeric 数据类型,Microsoft® SQL Server™ 将精度和小数位数的每个特定组合看作是不同的数据类型。例如,decimal(5,5) 和 decimal(5,0) 被当作不同的数据类型。(因此在编存储过程当中使用的变量采用Real 或 Float,而不采用decimal类型)

在 Transact-SQL 语句中,带有小数点的常量自动转换为 numeric 数据值,且必然使用最小的精度和小数位数。例如,常量 12.345 被转换为 numeric 值,其精度为 5,小数位为 3。

从 decimal 或 numeric 向 float 或 real 转换会导致精度损失。从 int、smallint、tinyint、float、real、money 或 smallmoney 向 decimal 或 numeric 转换会导致溢出。

默认情况下,在将数字转换为较低精度和小数位数的 decimal 或 numeric 值时,SQL Server 使用舍入法。然而,如果 SET ARITHABORT 选项为 ON,当发生溢出时,SQL Server 会出现错误。若仅损失精度和小数位数,则不会产生错误。

feixianxxx 2009-06-16
  • 打赏
  • 举报
回复

近似数字数据类型并不存储为多数数字指定的精确值,它们只储存这些值的最近似值。在很多应用程序中,指定值与存储值之间的微小差异并不明显。但有时这些差异也值得引起注意。由于 float 和 real 数据类型的这种近似性,当要求精确的数字状态时,比如在财务应用程序中,在那些需要舍入的操作中,或在等值核对的操作中,就不使用这些数据类型。这时就要用 integer、decimal、money 或 smallmone 数据类型。
在 WHERE 子句搜索条件中(特别是 = 和 <> 运算符),应避免使用 float 或 real 列。最好限制使用 float 和 real 列做 > 或 < 的比较。

IEEE 754 规格提供了四种舍入模式:舍入到最接近的值、上舍入、下舍入和舍入到零。Microsoft® SQL Server™ 使用上舍入。所有的数值必须精确到确定的精度,但会产生细小的浮点值变化。因为浮点数字的二进制表示法可以采用很多合法舍入规则中的任意一条,因此我们不可能可靠地量化一个浮点值。
feixianxxx 2009-06-16
  • 打赏
  • 举报
回复
其实呢 关键还是看LZ你的计费精度问题 。。我觉得既然是钱的问题 就用decimal 它精度高 虽然有少许麻烦
pears2017 2009-06-16
  • 打赏
  • 举报
回复
study up
dj3688 2009-06-16
  • 打赏
  • 举报
回复
[Quote=引用 2 楼 csdyyr 的回复:]
用decimal(38,2), float只是个近似数。
[/Quote]

支持
ReViSion 2009-06-16
  • 打赏
  • 举报
回复
float 和 real
用于表示浮点数字数据的近似数字数据类型。浮点数据为近似值;并非数据类型范围内的所有数据都能精确地表示。

decimal 和 numeric
带定点精度和小数位数的 numeric 数据类型。

decimal[(p[, s])] 和 numeric[(p[, s])]

定点精度和小数位数。使用最大精度时,有效值从 - 10^38 +1 到 10^38 - 1。decimal 的 SQL-92 同义词是 dec 和 dec(p, s)。

p(精度)

指定小数点左边和右边可以存储的十进制数字的最大个数。精度必须是从 1 到最大精度之间的值。最大精度为 38。

s(小数位数)

指定小数点右边可以存储的十进制数字的最大个数。小数位数必须是从 0 到 p 之间的值。默认小数位数是 0,因而 0 <= s <= p。最大存储大小基于精度而变化。
usher_gml 2009-06-16
  • 打赏
  • 举报
回复
DECIMAL够精确..
--小F-- 2009-06-16
  • 打赏
  • 举报
回复
支持用decima ,精度比较高 float是浮点数,在某些处理的时候有可能出现偏差
taoistong 2009-06-16
  • 打赏
  • 举报
回复
其实如果是方便,不想麻烦就用

declare @r numeric(38,2)

符点型的符点不容易维护

olddown 2009-06-16
  • 打赏
  • 举报
回复
[Quote=引用 8 楼 sdhdy 的回复:]
引用 7 楼 chuifengde 的回复:
numeric,decimal是精确数字
float,real是浮点数

支持。
[/Quote]
JonasFeng 2009-06-16
  • 打赏
  • 举报
回复
[Quote=引用 7 楼 chuifengde 的回复:]
numeric,decimal是精确数字
float,real是浮点数
[/Quote]

同意,除非特殊情况。否则不要使用FLOAT.
因为每次查出来的结果会不一样的。是近似数。
加载更多回复(23)

34,590

社区成员

发帖
与我相关
我的任务
社区描述
MS-SQL Server相关内容讨论专区
社区管理员
  • 基础类社区
  • 二月十六
  • 卖水果的net
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧