3.3w+
社区成员
存储过程的结果保留小数2位怎么是以0.05为单位呢?好奇怪啊
我用存储过程计算一个字段的值,结果出来的结果是以0.05单位保存的,搞不懂是怎么回事?
比如,结果为502.869, 它会保存为 502.90
478.405 会保存为478.45,总之所有的结果都是以 .50,.60 或.85,.35 等等以0.05为进制的结果
这是怎么回事啊
我的字段就是 numeric 类型 2位小数的啊
比如,结果为502.869, 它会保存为 502.90
478.405 会保存为478.45,总之所有的结果都是以 .50,.60 或.85,.35 等等以0.05为进制的结果
这是怎么回事啊
我的字段就是 numeric 类型 2位小数的啊
...全文
当前发帖距今超过3年，不再开放新的回复
发表回复
叶子 2008-04-01
我只知道会四舍五入！
qq03sj04 2008-04-01
[Quote=引用 11 楼 Haiwer 的回复:]
Try:
declare @js numeric
--->
declare @js numeric (28,2)
[/Quote]
这样改完就正确了!!!!
Try:
declare @js numeric
--->
declare @js numeric (28,2)
[/Quote]
这样改完就正确了!!!!
utpcb 2008-03-31
愚人节还没到呢呵呵就在基础区愚人阿！哈哈小伙子给我分数吧
昵称被占用了 2008-03-31
Try:
declare @js numeric
--->
declare @js numeric (28,2)
declare @js numeric
--->
declare @js numeric (28,2)
hui_hui_2007 2008-03-31
刚才没看明白，现在有点明白了，是计算误差吧。
我想是因为加的数多了，其实每次计算都是按3位算的。最后四舍五入。
给人的感觉是误差，其实不会。
楼主放点测试数据，就一目了然了。
楼主的代码，定义@js时，没有指定小数位数。
我想是因为加的数多了，其实每次计算都是按3位算的。最后四舍五入。
给人的感觉是误差，其实不会。
楼主放点测试数据，就一目了然了。
楼主的代码，定义@js时，没有指定小数位数。
flairsky 2008-03-31
sql的bug？
hui_hui_2007 2008-03-31
[Quote=引用楼主 qq03sj04 的帖子:]
比如,结果为502.869, 它会保存为 502.90
我的字段就是 numeric 类型 2位小数的啊
[/Quote]
就应该这样呀，两位就是四舍五入呀。
select cast(502.869 as decimal(18,2))
比如,结果为502.869, 它会保存为 502.90
我的字段就是 numeric 类型 2位小数的啊
[/Quote]
就应该这样呀，两位就是四舍五入呀。
select cast(502.869 as decimal(18,2))
-狙击手- 2008-03-31
用2位以上小数位，最后显示2位
qq03sj04 2008-03-31
我把@js的结果赋值给一个字段,发现@js的结果是正常的保留2位小数的
qq03sj04 2008-03-31
代码如下:
CREATE proc gedeshui
AS
begin
declare @js numeric
update gzk
--js=yfgz_js+yj_lr-bj_js-ybjf_kk-grjf_kk-njgrjf_kk-gz_jt-fg_jt
set @js=yfgz_js+yj_lr-bj_js-ybjf_kk-grjf_kk-njgrjf_kk-gz_jt-fg_jt,
gds_js=(@js-
case when @js<=2000 then
@js
when @js>2000 then
2000
end
)*
case when @js<=2000 then
0
when @js>2000 and @js<=2500 then
0.05
when @js>2500 and @js<=4000 then
0.1
when @js>4000 and @js<=7000 then
0.15
when @js>7000 then
0.2
end
-
case when @js<=2000 then
0
when @js>2000 and @js<=2500 then
0
when @js>2500 and @js<=4000 then
25
when @js>4000 and @js<=7000 then
125
when @js>7000 then
375
end
end
GO
CREATE proc gedeshui
AS
begin
declare @js numeric
update gzk
--js=yfgz_js+yj_lr-bj_js-ybjf_kk-grjf_kk-njgrjf_kk-gz_jt-fg_jt
set @js=yfgz_js+yj_lr-bj_js-ybjf_kk-grjf_kk-njgrjf_kk-gz_jt-fg_jt,
gds_js=(@js-
case when @js<=2000 then
@js
when @js>2000 then
2000
end
)*
case when @js<=2000 then
0
when @js>2000 and @js<=2500 then
0.05
when @js>2500 and @js<=4000 then
0.1
when @js>4000 and @js<=7000 then
0.15
when @js>7000 then
0.2
end
-
case when @js<=2000 then
0
when @js>2000 and @js<=2500 then
0
when @js>2500 and @js<=4000 then
25
when @js>4000 and @js<=7000 then
125
when @js>7000 then
375
end
end
GO
-狙击手- 2008-03-31
最多4舍5入，你说得挺 吓人的，要是这样估计微软门口有人拿刀砍盖茨
dawugui 2008-03-31
哦?确实奇怪.
尝试对结果使用cast(502.869 as decimal(18,2))
尝试对结果使用cast(502.869 as decimal(18,2))
liangCK 2008-03-31
看错.
liangCK 2008-03-31
cast(245.1551 as decimal(9,2))
为什么(2.55).toFixed(1)等于2.5？ 上次遇到了一个奇怪的问题：JS的(2.55).toFixed(1)输出是2.5，而不是四舍五入的2.6，这是为什么呢？进一步观察：发现，并不是所有的都不正常，1.55的四舍五入还是对的，为什么2.55、3.45就不对呢？这个需要我们在...
MySQL的10位或13位时间戳获取，表示及13位时间戳的存储 MySQL的10位或13位时间戳获取，表示及13位时间戳的存储 一、毫秒、微秒名词解释： 毫秒：millisecond -- 千分之一秒 微秒：microsecond -- 一百万分之一秒 1 秒 = 1000 毫秒；1 毫秒 = 1000 微秒 10位时间戳的...
DL推荐paper Introduction 卷积神经网络CNN，虽然它听起来就像是生物学、数学和计算机的奇怪混杂产物，但在近些年的机器视觉领域，它是最具影响力的创新结果。随着Alex Krizhevsky开始使用神经网络，将分类错误率由26%降到15%并...
网上某位牛人的deep learning学习笔记汇总 本题给出的是50个数据样本点，其中x为这50个小朋友到的年龄，年龄为2岁到8岁，年龄可有小数形式呈现。Y为这50个小朋友对应的身高，当然也是小数形式表示的。现在的问题是要根据这50个训练样本，估计出3.5岁和7岁时小...
Java浮点数float和double精确计算的精度误差问题总结 案例：会员积分字段采用float类型，导致计算会员积分时，7位整数的数据计算结果出现误差。 原因：超出float精度范围，无法精确计算。 float和double的精度是由尾数的位数来决定的。浮点数在内存中是按科学计数...
BAT机器学习面试1000题系列（第1~305题） 本系列大部分题目来源于公开网络，取之分享，用之分享，且在撰写答案过程中若引用他人解析则必注明原作者及来源链接。另，不少答案得到寒小阳、管博士、张雨石、王赟、褚博士等七月在线名师审校。说明：本系...
java第二篇Java基础 a:在对该补码求补，所得的补码即为原补码的原码 b:符号位在求反码和补码的过程中不变，将补码-1，再将各位取反，得到的反码即为原码 int的取值范围是-2^31 - 2^31-1 ，那最小值是2^31的原因是：1111 1111 | 1111 ...
C++提高进阶，你知道多少？ 编译器把编译后（即翻译好的）的代码以一定格式（对于VC，就是COFF通用对象文件格式，扩展名为.obj）存放在文件中，然后再由连接器将编译好的机器代码按一定格式（在Windows操作系统下就是Portable Executable ...
Java浮点数float，bigdecimal和double精确计算的精度误差问题总结 案例：会员积分字段采用float类型，导致计算会员积分时，7位整数的数据计算结果出现误差。 原因：超出float精度范围，无法精确计算。 float和double的精度是由尾数的位数来决定的。浮点数在内存中是按科学计数法来...
开始刷题--《C语言经典100题》 工作有点恼火，没有得心应手的感觉，除了换了工作方向不适应外，就感觉自己基础不够好，刚工作，就在公司犯了一些C语言方面的错误，也被leader说了，就打算来刷刷C语言的题了，加强下自己的基础，加油！ 每天至少两...
js toFixed 为什么(2.55).toFixed(1)等于2.5？ 上次遇到了一个奇怪的问题：JS的(2.55).toFixed(1)输出是2.5，而不是四舍五入的2.6，这是为什么呢？ 进一步观察： 发现，并不是所有的都不正常，1.55的四舍五入还是对的...
[JAVA] float,double计算方法 1、float整数计算误差案例：会员积分字段采用float类型，导致计算会员积分时，7位整数的数据计算结果出现误差。原因：超出float精度范围，无法精确计算。float和double的精度是由尾数的位数来决定的。浮点数在内存中...
基于java的企业人事管理系统设计--软件工程课程设计（含源码与论文设计）.rar 1 引言 4
1.1 课程设计目标 4
1.2 编程工具（编程环境）介绍 4
1.3 实施时间及主要实施步骤 4
2 需求分析 5
3 系统总体设计 6
4 数据库设计 6
5 主要功能模块的设计与实现 10
5.1 功能模块1详细设计（综合查询员工信息）..........................................................10
5.1.1 详细设计.......................................................................................................10
5.1.2 算法流程........................................................................................................15
5.1.3 界面设计及测试结果.....................................................................................15
6 调试分析 15
7 用户手册 16
8 测试结果 17
8.1 员工信息的添加...................................................................................................17
8.2 员工信息的修改...................................................................................................17
8.3 员工信息的删除...................................................................................................18
8.4 员工信息的综合查询...........................................................................................18
8.5 员工信息按性别统计的结果................................................................................19
8.6 员工信息按状态统计的结果...............................................................................19
8.7 员工信息按职称统计的结果................................................................................20
9 结论 20
10 参考文献 20
