浮点数精度问题。-CSDN论坛

⋅浮点数精度问题。 ⋅简单问题 ⋅招聘asp.net程序员 更多帖子 关注私信空间博客 zhaozhao110 本版专家分：27 结帖率 82.69%: 比如说1/3.0,默认情况下是小数点后面保留6位，假如我想保留9位怎么办。。
numberic()和DECIMAL(10,2)类型都不行，都是后面补0，想要精确的。。难道只能1/3.0000000吗？变量怎么办？

0 2011-04-06 14:05:28

回复数 12 只看楼主引用举报楼主

⋅-----------------------------恭喜SQL SERVER的各位MVP--------------------- ⋅---------------对面的女孩看过来------------------------ ⋅------------------恭喜SQL版再诞生一位钻石DBA_Huangzj------------------------------ 更多帖子 关注私信空间博客 --小F-- 本版专家分：313931 版主 名人 2019年荣获名人称号 2012年荣获名人称号 进士 2011年总版技术专家分年内排行榜第四 2010年总版技术专家分年内排行榜第九 2009年总版技术专家分年内排行榜第八 金牌 2011年10月总版技术专家分月排行榜第一 银牌 2011年12月总版技术专家分月排行榜第二 2011年9月总版技术专家分月排行榜第二 2009年11月总版技术专家分月排行榜第二

select cast(1.0/3 as decimal(38,9))



/*

---------------------------------------

0.333333000



(1 行受影响)*/

0 2011-04-06 14:10:51

只看TA 引用举报 #2 得分 15

⋅-----------------------------恭喜SQL SERVER的各位MVP--------------------- ⋅---------------对面的女孩看过来------------------------ ⋅------------------恭喜SQL版再诞生一位钻石DBA_Huangzj------------------------------ 更多帖子 关注私信空间博客 --小F-- 本版专家分：313931 版主 名人 2019年荣获名人称号 2012年荣获名人称号 进士 2011年总版技术专家分年内排行榜第四 2010年总版技术专家分年内排行榜第九 2009年总版技术专家分年内排行榜第八 金牌 2011年10月总版技术专家分月排行榜第一 银牌 2011年12月总版技术专家分月排行榜第二 2011年9月总版技术专家分月排行榜第二 2009年11月总版技术专家分月排行榜第二: 因为浮点数本身就是不精确的要精确只能自己加0

0 2011-04-06 14:11:20

只看TA 引用举报 #3 得分 0

⋅浮点数精度问题。 ⋅简单问题 ⋅招聘asp.net程序员 更多帖子 关注私信空间博客 zhaozhao110 本版专家分：27: 谢谢，可是你看一下结果
declare @t decimal(38,9)
set @t=1/3.0
select @t

是0.333333000

我想要0.333333333

0 2011-04-06 14:12:34

只看TA 引用举报 #4 得分 0

⋅-----------------------------恭喜SQL SERVER的各位MVP--------------------- ⋅---------------对面的女孩看过来------------------------ ⋅------------------恭喜SQL版再诞生一位钻石DBA_Huangzj------------------------------ 更多帖子 关注私信空间博客 --小F-- 本版专家分：313931 版主 名人 2019年荣获名人称号 2012年荣获名人称号 进士 2011年总版技术专家分年内排行榜第四 2010年总版技术专家分年内排行榜第九 2009年总版技术专家分年内排行榜第八 金牌 2011年10月总版技术专家分月排行榜第一 银牌 2011年12月总版技术专家分月排行榜第二 2011年9月总版技术专家分月排行榜第二 2009年11月总版技术专家分月排行榜第二: 引用 5 楼 zhaozhao110 的回复:
有没有什么办法呢？

3楼已经说了无解

0 2011-04-06 14:16:21

只看TA 引用举报 #6 得分 0

⋅浮点数精度问题。 ⋅简单问题 ⋅招聘asp.net程序员 更多帖子 关注私信空间博客 zhaozhao110 本版专家分：27: 那么定义变量的时候就不能用float了是吧，只能用decimal(38,7)了，然后这样的话出来的就会是我需要的精度了。。。

0 2011-04-06 14:16:57

只看TA 引用举报 #7 得分 0

⋅-----------------------------恭喜SQL SERVER的各位MVP--------------------- ⋅---------------对面的女孩看过来------------------------ ⋅------------------恭喜SQL版再诞生一位钻石DBA_Huangzj------------------------------ 更多帖子 关注私信空间博客 --小F-- 本版专家分：313931 版主 名人 2019年荣获名人称号 2012年荣获名人称号 进士 2011年总版技术专家分年内排行榜第四 2010年总版技术专家分年内排行榜第九 2009年总版技术专家分年内排行榜第八 金牌 2011年10月总版技术专家分月排行榜第一 银牌 2011年12月总版技术专家分月排行榜第二 2011年9月总版技术专家分月排行榜第二 2009年11月总版技术专家分月排行榜第二: 只有在定义的时候直接采用DEC或者NUMBERIC

0 2011-04-06 14:17:04

只看TA 引用举报 #8 得分 0

⋅浮点数精度问题。 ⋅简单问题 ⋅招聘asp.net程序员 更多帖子 关注私信空间博客 zhaozhao110 本版专家分：27: declare @t decimal(38,9)
declare @s decimal(38,7)
set @s=3.0
set @t=1/@s
select @t

这样应该就可行了吧。

0 2011-04-06 14:18:51

只看TA 引用举报 #9 得分 0

⋅-----------------------------恭喜SQL SERVER的各位MVP--------------------- ⋅---------------对面的女孩看过来------------------------ ⋅------------------恭喜SQL版再诞生一位钻石DBA_Huangzj------------------------------ 更多帖子 关注私信空间博客 --小F-- 本版专家分：313931 版主 名人 2019年荣获名人称号 2012年荣获名人称号 进士 2011年总版技术专家分年内排行榜第四 2010年总版技术专家分年内排行榜第九 2009年总版技术专家分年内排行榜第八 金牌 2011年10月总版技术专家分月排行榜第一 银牌 2011年12月总版技术专家分月排行榜第二 2011年9月总版技术专家分月排行榜第二 2009年11月总版技术专家分月排行榜第二: 是的。

0 2011-04-06 14:20:11

只看TA 引用举报 #10 得分 0