社区
MS-SQL Server
帖子详情
小菜手问个数值精度的问题
dhz2008
2008-03-31 04:39:30
选什么数据类型能让数值查询的结果只显示小数点后2位,比如吨位:16.74
我用float定义的,输入的是:16。74,结果查询出的结果是16.73999。。。。
谢谢了
...全文
92
11
打赏
收藏
小菜手问个数值精度的问题
选什么数据类型能让数值查询的结果只显示小数点后2位,比如吨位:16.74 我用float定义的,输入的是:16。74,结果查询出的结果是16.73999。。。。 谢谢了
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
11 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
bqb
2008-03-31
打赏
举报
回复
[Quote=引用楼主 dhz2008 的帖子:]
选什么数据类型能让数值查询的结果只显示小数点后2位,比如吨位:16.74
我用float定义的,输入的是:16。74,结果查询出的结果是16.73999。。。。
谢谢了
[/Quote]
1.如果 表的记录只要保留两位小数,字段类型就设置为:numeric(18,2)
2.如果 表的记录只要保留好几位小数,查询时才四舍五入保留两位小数,就用 函数round(字段名,2)
flairsky
2008-03-31
打赏
举报
回复
round(xx,2)
dhz2008
2008-03-31
打赏
举报
回复
[Quote=引用 2 楼 areswang 的回复:]
mumeric(18,2)
[/Quote]
是不是写错了,应该是numeric
wangxuelid
2008-03-31
打赏
举报
回复
[Quote=引用 1 楼 bqb 的回复:]
SQL codeselect round(cname,2)
[/Quote]
wangxuelid
2008-03-31
打赏
举报
回复
[Quote=引用楼主 dhz2008 的帖子:]
选什么数据类型能让数值查询的结果只显示小数点后2位,比如吨位:16.74
我用float定义的,输入的是:16。74,结果查询出的结果是16.73999。。。。
谢谢了
[/Quote]
wangxuelid
2008-03-31
打赏
举报
回复
[Quote=引用 3 楼 dawugui 的回复:]
或者出结果时,cast(col as decimal(18,2))
[/Quote]
-狙击手-
2008-03-31
打赏
举报
回复
[Quote=引用 4 楼 dhz2008 的回复:]
引用 2 楼 areswang 的回复:
mumeric(18,2)
我这本书没详细介绍过这个数据类型
想另卖本好好看下,谁推荐本书,听别人说SQL技术内幕,如何
[/Quote]
联机帮助就有
dhz2008
2008-03-31
打赏
举报
回复
[Quote=引用 2 楼 areswang 的回复:]
mumeric(18,2)
[/Quote]
我这本书没详细介绍过这个数据类型
想另卖本好好看下,谁推荐本书,听别人说SQL技术内幕,如何
dawugui
2008-03-31
打赏
举报
回复
或者出结果时,cast(col as decimal(18,2))
areswang
2008-03-31
打赏
举报
回复
mumeric(18,2)
bqb
2008-03-31
打赏
举报
回复
select round(cname,2)
【机器学习】
数值
分析01——绪论及误差分析
数值
分析——绪论及误差分析 文章目录
数值
分析——绪论及误差分析全文目录
数值
分析的作用及其学习工具使用
数值
分析常用工具
数值
分析的具体实例(多项式简化求值)计算机
数值
误差产生机理计算机的
数值
存储方式计算机误差产生原因误差误差限与
精度
模型误差观测误差截断误差舍入误差有效数字缺失误差的产生和避免误差的传播算法设计的稳定性与病态条件病态
问题
计算的稳定性练习题ReferenceAbout Me联系方式全文目录
数值
分析的作用及其学习工具使用
数值
分析常用工具
数值
分析的具体实例(多项式简化求值)计算机
数值
误差产生机理计算机的
el-input-number的
精度
问题
el-input-number的
精度
问题
浮点数
精度
丢失
问题
详解
请看以下Go代码,会返回 0.7 吗? var num float32 for i := 0; i < 7; i++{ num = num + 0.1 } fmt.Println(num) 答案可能出人意料,是:0.70000005 0.70000005 也许有人会问,是不是Go语言的
问题
?换其他语言试试? OK,我们换JS试试。 答案依然令人意外。 除此之外,你还可以试试C、C++、Java、PHP等其他语言的float类型相加,看得到
js 字符串
数值
比较大小
js 字符串
数值
比较大小 写项目模块中有一个功能需要限定一个InputNumber的上限,onchange超过上限,弹出提示信息;但是遇到一个奇葩
问题
,偶尔没有超过上限也会弹出超出上限的
问题
;最后排查出来了
问题
,是因为后台返回的上限是String; 1.比较的都是Number console(1&gt;2) //毫无疑问 false 2.两个都是string类型
数值
,则比较两个...
【JokerのLabView】
数值
、布尔、字符串、公式。
版本:LabView2018
数值
控件 与
数值
输入或显示相关的都属于
数值
控件,可以看到,时间标识、进度条、旋钮、转盘、温度计等,也同样属于
数值
控件。 不论是输入控件还是显示控件,右键--->表示法,可以选择
数值
的
精度
,类似于C里的变量类型。 在显示控件上右键--->显示项,可以把基数调出来,就是以二、八、十、十六进制显示数据,更改的方法是用鼠标点击数字前的字母,然后...
MS-SQL Server
34,872
社区成员
254,640
社区内容
发帖
与我相关
我的任务
MS-SQL Server
MS-SQL Server相关内容讨论专区
复制链接
扫一扫
分享
社区描述
MS-SQL Server相关内容讨论专区
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章