1/3小数位问题
现在遇到一个问题,简单的计算1/3,不管怎么设置运算后的结果只有6位有效的结果,如果我现在需要保存8位10位,这怎么设置,是不是SQL的运算环境有相应的配置
SQL的服务器属性这我看了,是初始状态的38位

请教还有哪里有相应的设置还是我的计算方式不对?
SELECT CONVERT(NUMERIC(38,10), 1.0/3.0)
--0.3333330000
SELECT CONVERT(REAL,1.0/3)
--0.333333
SELECT CAST(CAST(1 AS DECIMAL)/CAST(3 AS DECIMAL) AS DECIMAL(18,6))
--0.333333
SQL的服务器属性这我看了,是初始状态的38位

请教还有哪里有相应的设置还是我的计算方式不对?
...全文
相关推荐
CSharp小数位数保留的方法大全
CSharp小数位数保留的方法大全文档,是我见过最实用的,从网上也搜集过很多,但尝试过后,好多都不能使用,但文档中的方法,不仅可以教你如何使用,而且有好多其他未见过的使用方法,请下载查看!
js保留小数位数
js保留小数位数
python3 小数位的四舍五入(用两种方法解决round 遇5不进)
主要介绍了python3 小数位的四舍五入(用两种方法解决round 遇5不进),文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
新西师大版五年级上册数学 第三课时 小数乘小数(1) 教学课件.pptx
新西师大版五年级上册数学 第三课时 小数乘小数(1) 教学课件.pptx
2018-2019学年小学数学北师大版四年级下册 3.3街心广场 同步练习.pdf
2018-2019学年小学数学北师大版四年级下册 3.3街心广场 同步练习.pdf


疑难问题
