社区
MS-SQL Server
帖子详情
小菜手问个数值精度的问题
dhz2008
2008-03-31 04:39:30
选什么数据类型能让数值查询的结果只显示小数点后2位,比如吨位:16.74
我用float定义的,输入的是:16。74,结果查询出的结果是16.73999。。。。
谢谢了
...全文
118
11
打赏
收藏
小菜手问个数值精度的问题
选什么数据类型能让数值查询的结果只显示小数点后2位,比如吨位:16.74 我用float定义的,输入的是:16。74,结果查询出的结果是16.73999。。。。 谢谢了
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
11 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
bqb
2008-03-31
打赏
举报
回复
[Quote=引用楼主 dhz2008 的帖子:]
选什么数据类型能让数值查询的结果只显示小数点后2位,比如吨位:16.74
我用float定义的,输入的是:16。74,结果查询出的结果是16.73999。。。。
谢谢了
[/Quote]
1.如果 表的记录只要保留两位小数,字段类型就设置为:numeric(18,2)
2.如果 表的记录只要保留好几位小数,查询时才四舍五入保留两位小数,就用 函数round(字段名,2)
flairsky
2008-03-31
打赏
举报
回复
round(xx,2)
dhz2008
2008-03-31
打赏
举报
回复
[Quote=引用 2 楼 areswang 的回复:]
mumeric(18,2)
[/Quote]
是不是写错了,应该是numeric
wangxuelid
2008-03-31
打赏
举报
回复
[Quote=引用 1 楼 bqb 的回复:]
SQL codeselect round(cname,2)
[/Quote]
wangxuelid
2008-03-31
打赏
举报
回复
[Quote=引用楼主 dhz2008 的帖子:]
选什么数据类型能让数值查询的结果只显示小数点后2位,比如吨位:16.74
我用float定义的,输入的是:16。74,结果查询出的结果是16.73999。。。。
谢谢了
[/Quote]
wangxuelid
2008-03-31
打赏
举报
回复
[Quote=引用 3 楼 dawugui 的回复:]
或者出结果时,cast(col as decimal(18,2))
[/Quote]
-狙击手-
2008-03-31
打赏
举报
回复
[Quote=引用 4 楼 dhz2008 的回复:]
引用 2 楼 areswang 的回复:
mumeric(18,2)
我这本书没详细介绍过这个数据类型
想另卖本好好看下,谁推荐本书,听别人说SQL技术内幕,如何
[/Quote]
联机帮助就有
dhz2008
2008-03-31
打赏
举报
回复
[Quote=引用 2 楼 areswang 的回复:]
mumeric(18,2)
[/Quote]
我这本书没详细介绍过这个数据类型
想另卖本好好看下,谁推荐本书,听别人说SQL技术内幕,如何
dawugui
2008-03-31
打赏
举报
回复
或者出结果时,cast(col as decimal(18,2))
areswang
2008-03-31
打赏
举报
回复
mumeric(18,2)
bqb
2008-03-31
打赏
举报
回复
select round(cname,2)
高
精度
加法
博客围绕高
精度
算法展开,介绍了使用高
精度
的原因,因计算机常规数据类型有
数值
范围限制,处理更大数运算需用高
精度
。重点讲解了模拟高
精度
加法,通过模拟加法竖式展示运算过程,并给出高
精度
加法代码实现步骤及最终代码,还说明了结果倒存的好处。
理解int转float为何会可能
精度
丢失的
问题
本文探讨了Java中int类型向float类型转换时可能出现的
精度
丢失
问题
,并深入解析了int与float的不同存储结构,解释了为何int转float时可能会出现
精度
丢失。
C/C++之数据结构与算法1:高
精度
计算-加法
本文介绍了C/C++中的高
精度
加法算法。高
精度
算法用于处理
精度
要求高、位数超几十位甚至几百位的计算,无法用语言自带数据结构运算。存储可选用数组,运算运用小学竖式。文章还给出了高
精度
加法的代码实现,包括输入处理、数组存储及算法逻辑。
ECMAScript 6 (ES6)
数值
的扩展
本文详细介绍了ES6中
数值
的多种表示方法,包括二进制、八进制及
数值
转换,探讨了Number对象的新特性如Number.isFinite、Number.isNaN等,以及Math对象的新增方法如Math.trunc、Math.sign等。此外,还深入讲解了BigInt数据类型,解决了大整数运算的
精度
问题
。
Java中为什么int转float可能会丢失
精度
呢?
本文详细探讨了int和float两种数据类型的内部存储结构差异,解释了为何int转float可能造成
精度
损失,并通过实例说明float的存储原理,帮助读者理解不同类型间的转换机制。
MS-SQL Server
34,876
社区成员
254,639
社区内容
发帖
与我相关
我的任务
MS-SQL Server
MS-SQL Server相关内容讨论专区
复制链接
扫一扫
分享
社区描述
MS-SQL Server相关内容讨论专区
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章