社区
VB基础类
帖子详情
【CSDN】【请问没有小数位的大于20位的数用什么数据类型,不能有误差,因为要进行比较】
drillmaster7
2003-10-19 05:20:55
要进行 12345678901234567890 > 12345678901234567809 类似的判断
怎么判断呀?
...全文
101
3
打赏
收藏
【CSDN】【请问没有小数位的大于20位的数用什么数据类型,不能有误差,因为要进行比较】
要进行 12345678901234567890 > 12345678901234567809 类似的判断 怎么判断呀?
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
3 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
thirdapple
2003-10-19
打赏
举报
回复
自己写STRING的判断!
hacker007
2003-10-19
打赏
举报
回复
建议先进行长度比较,后进行每一位数的比较
qjqmoney
2003-10-19
打赏
举报
回复
定义数据类型为double类型
MySQL 小数类型介绍
对于保证精度的数字,MySQL 也有对应的小数类型,下图是 MySQL 中小数类型概览。浮点:小数点非固定的数,可表示数据范围较广,整数,小数都可表示。定点:小数点固定,可表示整数,小数。int(整数)本质是小数点...
SQL表达式结果集的小数精度
<br />精度、
小数
位
数和长度 (Transact-SQL) 精度是数字中的数字个数。... 数字
数据类型
的长度是存储此数所占用的字节数。字符串或 Unicode
数据类型
的长度是字符个数。binary、varbin
小数
位
数的处理(JS前端,C#后台,SQL处理,报表处理)
最近零零散散的做了一些
小数
位
数相关的内容,这里稍微总结一下。前段时间,我们的系统里面需要做一个根据
小数
位
数设置来处理数据的需求,在我开发之前,系统里面已经有过处理。系统里面有金额和积分
小数
位
数处理设置...
关于double类型运算出现
误差
的原因及解决办法
double属于floating binary point types,double型在运算使会先将数值转换成二进制的数值表示再做运算,但是在转换成二进制代码表示的时候,存储小数部分的
位
数会有不够的现象,即无限循环小数,故会有非常小的
误差
,...
python | 关于计算机内小数不精确的问题
浮点数(小数)在计算机中实际是以二进制存储的,并不精确。 比如0.1是十进制,转换为二进制后就是一个无限循环的数: 0.00011001100110011001100110011001100110011001100110011001100 python是以双精度(64bit)来...
VB基础类
7,763
社区成员
197,605
社区内容
发帖
与我相关
我的任务
VB基础类
VB 基础类
复制链接
扫一扫
分享
社区描述
VB 基础类
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章