社区
MySQL
帖子详情
9999999.9怎么老自动进位!!!
paragenius
2004-01-11 10:24:10
用的MYSQL,一个FLOAT字段,插入9999999.9,它老就自动变成10000000了。
怎么解决这个问题啊?怎样才确保精度?
...全文
117
4
打赏
收藏
9999999.9怎么老自动进位!!!
用的MYSQL,一个FLOAT字段,插入9999999.9,它老就自动变成10000000了。 怎么解决这个问题啊?怎样才确保精度?
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
4 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
shuixin13
2004-01-13
打赏
举报
回复
mysql> CREATE TABLE tc (C1 decimal(16,3));
Query OK, 0 rows affected (0.00 sec)
mysql> INSERT INTO tc VALUES (999999999.999),(199999999.9999);
Query OK, 2 rows affected (0.00 sec)
Records: 2 Duplicates: 0 Warnings: 0
mysql> SELECT * FROM tc;
+---------------+
| C1 |
+---------------+
| 999999999.999 |
| 200000000.000 |
+---------------+
2 rows in set (0.00 sec)
mysql> DROP TABLE tc;
Query OK, 0 rows affected (0.00 sec)
注意,,,,,,,,,,
当数据范围超出时,当然会进位的啦... 例: 199999999.9999
xinxin1982
2004-01-13
打赏
举报
回复
...
paragenius
2004-01-13
打赏
举报
回复
我设置成DECIMAL,手动加入999999999等,但是还进位啊,为什么?
shuixin13
2004-01-12
打赏
举报
回复
呵呵,
那个数据库系统都是这样的.
如果你要精确.
建议使用 DECIMAL(M, D)
列详细地请看 参考手册
从一个bug到了解浮点数
有次qa提了一个bug,就是假如输入999999.99时候,会发现存到数据库是1000000。后面一看代码原来是自己手抖,平常用double来转换,突然有个地方写成了float。改后就ok。但是仔细一想,这个为什么刚好是这个值转换出错,学过计算机的都知道,float存储用二进制,所以有精度差,但是究竟是怎样一个存储法呢。大学学到的知识都忘记了。赶紧复习下。 这是基于IEEE 754,是IEEE二...
c语言会不会
自动
四舍五入,float浮点数会
自动
四舍五入吗 大部分人都想错了
前几天,有个小伙伴在做实验过程中,发现了一个奇怪的现象,这个现象就是…他在用printf输出浮点数的时候,想把数据保留到小数点后的两位,他是这么写的…float c=1.155;printf(“%.2f”,c);他的书写是对的,没有错误。但是他发现,当c等于1.555时,保留两位小数输出是1.55,而当c等于3.555时,保留两位小数输出是3.56。这个结果,就让人捉摸不透了,因为…如果是程序运算...
sprintf 函数关于float类型转换四舍五入的问题
1.如果转换前的数据是小数点后三位有效小数,而转换要求小数点后保留2位有效小数,则结果会四舍五入,如下: fvalue = 999.999f; sprintf(str, "%0.2f", fvalue); 输出结果:1000.00 1.如果转换前的数据和转换要求的数都是小数点后保留2位有效小数,则结果不会会四舍五入,如下: fvalue = 999.99f; sprintf(str, ...
Linux 基础命令学习
许多 Linus 大神令人眼花缭乱的酷炫操作就是基于这些基本的命令的,既然如此,让我们也来窥探窥探吧。
java math 保留_java.math.BigDecimal保留两位小数,保留小数,精确位数 - 转
java保留两位小数问题:方式一(四舍五入形式保留两位小数,注意模式ROUND_HALF_UP):四舍五入double f = 111231.5585;BigDecimal b = new BigDecimal(f);double f1 = b.setScale(2, BigDecimal.ROUND_HALF_UP).doubleValue();保留两...
MySQL
56,800
社区成员
56,751
社区内容
发帖
与我相关
我的任务
MySQL
MySQL相关内容讨论专区
复制链接
扫一扫
分享
社区描述
MySQL相关内容讨论专区
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章