社区
MongoDB
帖子详情
mongo的浮点型精度问题
qq_34858601
2016-06-18 08:44:29
最近用mongo,分组求和后,100+755.66 = 855.6599999999。 直接在mongo里计算也是这个结果,真是郁闷。。大家有什么解决方案么?还是说在前台展现的时候,处理下精度啊?
...全文
329
2
打赏
收藏
mongo的浮点型精度问题
最近用mongo,分组求和后,100+755.66 = 855.6599999999。 直接在mongo里计算也是这个结果,真是郁闷。。大家有什么解决方案么?还是说在前台展现的时候,处理下精度啊?
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
2 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
R_128
2017-04-13
打赏
举报
回复
嗯嗯,别郁闷,多参考一下别人是怎么处理的,可能就豁然开朗了,以下是我查找到的相关内容的论坛连接网址,你看看吧:http://forum.foxera.com/mongodb/topic/385/mongo%E7%9A%84%E6%B5%AE%E7%82%B9%E5%9E%8B%E7%B2%BE%E5%BA%A6%E9%97%AE%E9%A2%98 ?un=xxx
小灸舞
2016-06-18
打赏
举报
回复
这是浮点数机制决定的。所有系统的浮点数只要是按IEEE浮点数标准来的,都是这个样子。少数语言在显示的时候做了处理,比如PHP。其他平台就需要自己处理下。
不只是mongo,大部分的数据库都存在这个问题,各种合计都会有误差,为此有一个数据类型叫Decimal,使用文本存放数字,数据库合计之类的就没有误差了。当然程序中也要有这个数据类型,然后操作各种蛋痛各种不直观。
替代的方案是直接用int,以分为单位而不是以元为单位。当然前台显示时要各种处理,反正就没一个简洁的方案。
redis
mongo
nosql 学习
学习redis
mongo
的运维和开发
计算机浮点运算
精度
问题
的一些探讨
本篇博客要点如下: 浮点运算常见的一些
精度
问题
浮点运算
精度
问题
产生的原因 浮点
精度
丢失
问题
的几种解决...相信各位在进行
浮点型
数据运算的时候,出现过一些超出理解,或者是不愿意出现的结果, 比如下面这些示例: ...
nodejs 与
mongo
db关于
浮点型
的坑
nodejs 与
mongo
db关于
浮点型
的坑背景解决步骤第一步第二步 背景 在一次使用中,出现存入数据库的数字比如2.15,但是通过代码读出来后为2.1500000000001的情况。 解决步骤 第一步 nodejs在使用
mongo
ose作为模型映射...
谨慎
mongo
db 关于数字操作可能导致类型及
精度
变化
1.
问题
描述 最近有一个需求,更新
Mongo
数据库中 原料 集合的某字段价格,更新后,程序报错了,说长度过长了,需要Truncation。 主要错误信息如下: FormatException: An error occurred while deserializing ...
Mongo
DB之
mongo
shell编程
一、配置
mongo
Shell 自定义提示 使用
mongo
Shell中的外部编辑器 更改
mongo
Shell批处理大小 1.自定义提示 可以通过在
mongo
shell中设置变量提示来修改提示的内容。prompt变量可以保存字符串和JavaScript代码。...
MongoDB
1,747
社区成员
1,464
社区内容
发帖
与我相关
我的任务
MongoDB
MongoDB相关内容讨论区
复制链接
扫一扫
分享
社区描述
MongoDB相关内容讨论区
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章