社区
VB基础类
帖子详情
【CSDN】【请问没有小数位的大于20位的数用什么数据类型,不能有误差,因为要进行比较】
drillmaster7
2003-10-19 05:20:55
要进行 12345678901234567890 > 12345678901234567809 类似的判断
怎么判断呀?
...全文
93
3
打赏
收藏
【CSDN】【请问没有小数位的大于20位的数用什么数据类型,不能有误差,因为要进行比较】
要进行 12345678901234567890 > 12345678901234567809 类似的判断 怎么判断呀?
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
3 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
thirdapple
2003-10-19
打赏
举报
回复
自己写STRING的判断!
hacker007
2003-10-19
打赏
举报
回复
建议先进行长度比较,后进行每一位数的比较
qjqmoney
2003-10-19
打赏
举报
回复
定义数据类型为double类型
MySQL 小数类型介绍
对于保证精度的数字,MySQL 也有对应的小数类型,下图是 MySQL 中小数类型概览。浮点:小数点非固定的数,可表示数据范围较广,整数,小数都可表示。定点:小数点固定,可表示整数,小数。int(整数)本质是小数点
位
于末尾的 32
位
定点数而已。-- 建表-- 写入f1f2100100.00单精度:使用 4 个字节存储,有效数字为 8
位
,MySQL 中的 float 类型为单精度。双精度:使用 8 个字节存储,有效数字为 16
位
,MySQL 中的 double 类型为双精度。
SQL表达式结果集的小数精度
精度、
小数
位
数和长度 (Transact-SQL)
精度是数字中的数字个数。
小数
位
数是数中小数点右边的数字个数。例如,数 123.45 的精度是 5,
小数
位
数是 2。
在 SQL Server 中,numeric 和 decimal
数据类型
的默认最大精度为 38。在 SQL Server 早期版本中,默认最大精度为 28。
数字
数据类型
的长度是存储此数所占用的字节数。字符串或 Unicode
数据类型
的长度是字符个数。binary、varbin
小数
位
数的处理(JS前端,C#后台,SQL处理,报表处理)
最近零零散散的做了一些
小数
位
数相关的内容,这里稍微总结一下。前段时间,我们的系统里面需要做一个根据
小数
位
数设置来处理数据的需求,在我开发之前,系统里面已经有过处理。系统里面有金额和积分
小数
位
数处理设置,这里以金额设置为例,之前的做法是这样的: 1. 系统里面配置默认参数:ConsumeMoneyIndexChoice,默认值为:“保留小数”,就是保留两
位
小数的意思,有一
位
的话就显示一
位
。然后...
关于double类型运算出现
误差
的原因及解决办法
因为这个小问题把仿真平台跑了一遍又一遍的菜鸡表示哭晕在厕所。。。 鉴于本来对平台就不是很熟,又遇到这么小的点在平台里,真是“福气”。 double属于floating binary point types,double型在运算使会先将数值转换成二进制的数值表示再做运算,但是在转换成二进制代码表示的时候,存储小数部分的
位
数会有不够的现象,即无限循环小数,故会有非常小的
误差
,但此时若
进行
==的判断则会...
python | 关于计算机内小数不精确的问题
原因解释: 浮点数(小数)在计算机中实际是以二进制存储的,并不精确。 比如0.1是十进制,转换为二进制后就是一个无限循环的数: 0.00011001100110011001100110011001100110011001100110011001100 python是以双精度(64bit)来保存浮点数的,后面多余的会被砍掉,所以在电脑上实际保存的已经小于0.1的值了,后面拿来参与运算就产生了
误差
。 解决办法: 使用decimal库 python中的decimal模块可以解决上面的烦恼 decima.
VB基础类
7,763
社区成员
197,609
社区内容
发帖
与我相关
我的任务
VB基础类
VB 基础类
复制链接
扫一扫
分享
社区描述
VB 基础类
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章