社区
MS-SQL Server
帖子详情
关于精度的问题
wlwhhy
2004-03-09 11:00:51
如果数据要求精确到2位小数，那么你认为在数据库存设计时应取几位小数才比较合理？
...全文
29
1
打赏
收藏
微信扫一扫
点击复制链接
分享
下载分享明细
分享
举报
写回复
1 条
回复
切换为时间正序
当前发帖距今超过3年，不再开放新的回复
发表回复
相关推荐
js计算
精度
问题
解决方案
js
精度
，js浮点数，js浮点数计算，js计算
精度
问题
解决方案，js保留小数位，
python数据
精度
_
关于
Python
的
数值
精度
问题
在Python中（其他语言中也存在这个
问题
，这是计算机采用二进制导致
的
），有时候由于二进制和十进制之间对应
问题
会导致数值
的
精度
问题
，比如无法用有限个二进制位完整地表示0.1，因为0.1转化为二进制之后位一个无限...
关于
double类型相乘
的
精度
问题
double db1 = 12.13; double db2 = 12.13; /** * 提供精确
的
乘法运算。... BigDecimal b1 = new BigDecimal(Double.toString(v1));...没有
精度
的
计算答案：147.13690000000003 有
精度
的
计算答案：147.14
c++
关于
double类型
精度
问题
一个兄弟读研，经常问我一些c++方面
的
问题
，这次他遇到了double
精度
影响矩阵运算库eigen
的
问题
， 矩阵数据 1.89722 7.0286 -10.3006 2.24151 -2.2824 4.89696 4.13873 4.7462 -5.40362
关于
float浮点数计算
精度
问题
的
深入分析
在Java中，或者说在任何一门语言中，float和double两种类型浮点数计算
的
精度
问题
都是老生常谈了。在进行跟钱相关
的
计算时(毕竟是白花花
的
银子)
的
时候如果不注意这两种浮点类型往往会出现许多莫名其妙
的
bug且难以排查...
发帖
MS-SQL Server
微信扫一扫
点击复制链接
分享社区
下载分享明细
3.3w+
社区成员
25.4w+
社区内容
MS-SQL Server相关内容讨论专区
社区管理员
加入社区
帖子事件
创建了帖子
2004-03-09 11:00
社区公告
暂无公告
微信扫一扫