社区
语言基础/算法/系统设计
帖子详情
浮点数的小问题
lunyx
2010-03-15 03:47:19
本来存到数据库中 是4.2,可是读出来的时候,他变成了4.19999980926514,这样就犯愁了,本来客户明明写了这个数,怎么读出来的时候不一样了?各位有什么好的解决方案吗?
...全文
85
6
打赏
收藏
浮点数的小问题
本来存到数据库中 是4.2,可是读出来的时候,他变成了4.19999980926514,这样就犯愁了,本来客户明明写了这个数,怎么读出来的时候不一样了?各位有什么好的解决方案吗?
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
6 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
xhj12077021
2010-03-15
打赏
举报
回复
Query1.FieldByName('db').asstring:= V;
...Post...........
保存的是字符串啊
lunyx
2010-03-15
打赏
举报
回复
不是长度设置问题。本来我数据库中是double类型的。我写入
V:string;
V:= '4.2';
Query1.FieldByName('db').asstring:= V;
...Post...........
读出来的时候,就变形了,不够准确
V:string;
Dv:= Query1.FieldByName('db').asstring;
得出
V='4.19999980926514'
jjwang2004
2010-03-15
打赏
举报
回复
设置成浮点数的时候,小数位数是不是2位
bdmh
2010-03-15
打赏
举报
回复
这是浮点数的存储方式在作怪,浮点数的存储不同于其他类型,你可以选择Money类型
7年
2010-03-15
打赏
举报
回复
长度设置问题?
xhj12077021
2010-03-15
打赏
举报
回复
没有遇到过这样的问题
浮点数
比较大小的
问题
浮点数
比较大小,由于精度
问题
,所以直接比较有时可能会出错。 单精度数7位有效数字。 (float) 双精度数16位有效数字。(double) 单精度数的尾数用23位存储,加上默认的小数点前的1位1,2^(23+1) = 16777216...
python
浮点数
比较大小_
浮点数
的相等比较
浮点数
的相等比较今天群里边一哥们儿——哦,确切地说,应该是一姊妹——问到了Python中怎样判断一个
浮点数
的小数部分是不是0,本意是要找和C语言中的fmod函数相同功能的函数的,在Python中在math模块中有这个函数,...
JavaScript
浮点数
比较
问题
整数和
浮点数
JavaScript 内部,所有数字都是以64位
浮点数
形式储存,即使整数也是如此。所以,1与1.0是相同的,是同一个数。 1 === 1.0 // true 这就是说,JavaScript 语言的底层根本没有整数,所有数字都是小数...
在c++中比较两个
浮点数
大小
函数来比较两个
浮点数
的差值是否小于一个非常小的阈值(例如1e-9)。这是因为
浮点数
的精度
问题
可能导致比较操作出现微小的误差。这些方法可以根据实际需求选择适合的比较方式。注意在比较
浮点数
大小时,要考虑到...
JavaScript
浮点数
精度
问题
只不过在很多其他语言中已经封装好了方法来避免精度的
问题
,而 JavaScript 是一门弱类型的语言,从设计思想上就没有对
浮点数
有个严格的数据类型,所以精度误差的
问题
就显得格外突出。为了验证该例子,我们得先知道...
语言基础/算法/系统设计
16,749
社区成员
33,245
社区内容
发帖
与我相关
我的任务
语言基础/算法/系统设计
Delphi 语言基础/算法/系统设计
复制链接
扫一扫
分享
社区描述
Delphi 语言基础/算法/系统设计
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章