请教各位关于计算字段小数点位数的问题,谢谢!

windwhispering 2014-08-11 03:27:59
一个字段aa值为2950,另一字段bb值为414379.69,字段cc值为8.34
aa bb cc
2950 414379.69 8.34

在计算时,需用aa/(bb+cc),得到保留小数点后9位值,即:2950/(414379.69*8.34)=0.000853606,否则后续计算会出现差异,原 aa,bb,cc字段类型为DECIMAL(19,5).当前计算后得到值为0.000853,为此,请教各位高手,如何将此计算字段的值保留到小数点后9位,另经convert转换小数点后长度也不行.CONVERT(DECIMAL(30,9),(aa/(bb+cc)) 的结果为:0.000853000.
...全文
170 10 打赏 收藏 转发到动态 举报
写回复
用AI写文章
10 条回复
切换为时间正序
请发表友善的回复…
发表回复
Tiger_Zhao 2014-08-11
  • 打赏
  • 举报
回复
一个表达式是分多步计算出结果的。
而每一步运算:
首先,Decimal 类型的运算结果也是 Decimal。
其次,结果的精度由操作数的精度决定,参见SQL Server精度数据(decimal和numeric)在算术运算时的自动转换规则

所以要控制精度既要对运算结果进行 Convert,更要对原始的操作数进行 Convert。
lakerskobemvp 2014-08-11
  • 打赏
  • 举报
回复
select cast(round ((convert( float,2950 )/(convert(float,414379.69)*convert(float,8.34))),9) as varchar (50))
發糞塗牆 2014-08-11
  • 打赏
  • 举报
回复
--> 测试数据:[huang]
if object_id('[huang]') is not null drop table [huang]
go 
create table [huang]([aa] int,[bb] numeric(8,2),[cc] numeric(3,2))
insert [huang]
select 2950,414379.69,8.34
--------------开始查询--------------------------

SELECT CAST(CAST([aa] AS NUMERIC(19,9))/(CAST(cc AS NUMERIC(19,9))*CAST([bb] AS NUMERIC(19,9)))AS NUMERIC(19,9))
from [huang]
----------------结果----------------------------
/* 
---------------------------------------
0.000853606
*/
windwhispering 2014-08-11
  • 打赏
  • 举报
回复
谢谢,解决了.确实需要把公式中的字段类型转换成相同的字段类型,包括小数位.
windwhispering 2014-08-11
  • 打赏
  • 举报
回复
您的计算结果可以得到0.000853606 ?
發糞塗牆 2014-08-11
  • 打赏
  • 举报
回复
不会啊
----------------------------------------------------------------
-- Author  :DBA_HuangZJ(發糞塗牆)
-- Date    :2014-08-11 15:30:24
-- Version:
--      Microsoft SQL Server 2012 - 11.0.5058.0 (X64) 
--	May 14 2014 18:34:29 
--	Copyright (c) Microsoft Corporation
--	Enterprise Edition: Core-based Licensing (64-bit) on Windows NT 6.3 <X64> (Build 9600: ) (Hypervisor)
--
----------------------------------------------------------------
--> 测试数据:[huang]
if object_id('[huang]') is not null drop table [huang]
go 
create table [huang]([aa] int,[bb] numeric(8,2),[cc] numeric(3,2))
insert [huang]
select 2950,414379.69,8.34
--------------开始查询--------------------------

select * ,CAST([aa] AS NUMERIC(30,9))/(CAST(cc AS NUMERIC(30,9))*CAST([bb] AS NUMERIC(30,9)))
from [huang]
----------------结果----------------------------
/* 
aa          bb                                      cc                                      
----------- --------------------------------------- --------------------------------------- ---------------------------------------
2950        414379.69                               8.34                                    0.00085360608
*/
引用 4 楼 windwhispering 的回复:
公式应为:aa/(bb*cc),现在就是不能得到保留小数点9位的值?:(
windwhispering 2014-08-11
  • 打赏
  • 举报
回复
公式应为:aa/(bb*cc),现在就是不能得到保留小数点9位的值?:(
發糞塗牆 2014-08-11
  • 打赏
  • 举报
回复
不管你什么公式,核心思想是把每个参与运算的列先转换成相同的数据类型然后再运算
發糞塗牆 2014-08-11
  • 打赏
  • 举报
回复
需用aa/(bb+cc),得到保留小数点后9位值,即:2950/(414379.69*8.34)=0.000853606 你的公式和例子貌似不一样的哦,
發糞塗牆 2014-08-11
  • 打赏
  • 举报
回复
----------------------------------------------------------------
-- Author  :DBA_HuangZJ(發糞塗牆)
-- Date    :2014-08-11 15:30:24
-- Version:
--      Microsoft SQL Server 2012 - 11.0.5058.0 (X64) 
--	May 14 2014 18:34:29 
--	Copyright (c) Microsoft Corporation
--	Enterprise Edition: Core-based Licensing (64-bit) on Windows NT 6.3 <X64> (Build 9600: ) (Hypervisor)
--
----------------------------------------------------------------
--> 测试数据:[huang]
if object_id('[huang]') is not null drop table [huang]
go 
create table [huang]([aa] int,[bb] numeric(8,2),[cc] numeric(3,2))
insert [huang]
select 2950,414379.69,8.34
--------------开始查询--------------------------

select * ,CAST([aa] AS NUMERIC(30,9))/(CAST(cc AS NUMERIC(30,9))+CAST([bb] AS NUMERIC(30,9)))
from [huang]
----------------结果----------------------------
/* 
aa          bb                                      cc                                      
----------- --------------------------------------- --------------------------------------- ---------------------------------------
2950        414379.69                               8.34                                    0.00711893
*/

34,594

社区成员

发帖
与我相关
我的任务
社区描述
MS-SQL Server相关内容讨论专区
社区管理员
  • 基础类社区
  • 二月十六
  • 卖水果的net
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧