社区
VB基础类
帖子详情
【CSDN】【请问没有小数位的大于20位的数用什么数据类型,不能有误差,因为要进行比较】
drillmaster7
2003-10-19 05:20:55
要进行 12345678901234567890 > 12345678901234567809 类似的判断
怎么判断呀?
...全文
90
3
打赏
收藏
【CSDN】【请问没有小数位的大于20位的数用什么数据类型,不能有误差,因为要进行比较】
要进行 12345678901234567890 > 12345678901234567809 类似的判断 怎么判断呀?
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
3 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
thirdapple
2003-10-19
打赏
举报
回复
自己写STRING的判断!
hacker007
2003-10-19
打赏
举报
回复
建议先进行长度比较,后进行每一位数的比较
qjqmoney
2003-10-19
打赏
举报
回复
定义数据类型为double类型
MATLAB
20
23:
数据类型
-表
表是MATLAB中相对
比较
新的一种
数据类型
,本课程详细介绍表的创建、索引、数据输入输出、数据整理和预处理。所在套餐:MATLAB核心知识点系列课程-
CSDN
程序员研修院,不断更新和增加课程。
MySQL 小数类型介绍
对于保证精度的数字,MySQL 也有对应的小数类型,下图是 MySQL 中小数类型概览。浮点:小数点非固定的数,可表示数据范围较广,整数,小数都可表示。定点:小数点固定,可表示整数,小数。int(整数)本质是小数点
位
于末尾的 32
位
定点数而已。-- 建表-- 写入f1f2100100.00单精度:使用 4 个字节存储,有效数字为 8
位
,MySQL 中的 float 类型为单精度。双精度:使用 8 个字节存储,有效数字为 16
位
,MySQL 中的 double 类型为双精度。
SQL表达式结果集的小数精度
精度、
小数
位
数和长度 (Transact-SQL)
精度是数字中的数字个数。
小数
位
数是数中小数点右边的数字个数。例如,数 123.45 的精度是 5,
小数
位
数是 2。
在 SQL Server 中,numeric 和 decimal
数据类型
的默认最大精度为 38。在 SQL Server 早期版本中,默认最大精度为 28。
数字
数据类型
的长度是存储此数所占用的字节数。字符串或 Unicode
数据类型
的长度是字符个数。binary、varbin
小数
位
数的处理(JS前端,C#后台,SQL处理,报表处理)
最近零零散散的做了一些
小数
位
数相关的内容,这里稍微总结一下。前段时间,我们的系统里面需要做一个根据
小数
位
数设置来处理数据的需求,在我开发之前,系统里面已经有过处理。系统里面有金额和积分
小数
位
数处理设置,这里以金额设置为例,之前的做法是这样的: 1. 系统里面配置默认参数:ConsumeMoneyIndexChoice,默认值为:“保留小数”,就是保留两
位
小数的意思,有一
位
的话就显示一
位
。然后...
关于double类型运算出现
误差
的原因及解决办法
因为这个小问题把仿真平台跑了一遍又一遍的菜鸡表示哭晕在厕所。。。 鉴于本来对平台就不是很熟,又遇到这么小的点在平台里,真是“福气”。 double属于floating binary point types,double型在运算使会先将数值转换成二进制的数值表示再做运算,但是在转换成二进制代码表示的时候,存储小数部分的
位
数会有不够的现象,即无限循环小数,故会有非常小的
误差
,但此时若
进行
==的判断则会...
VB基础类
7,763
社区成员
197,609
社区内容
发帖
与我相关
我的任务
VB基础类
VB 基础类
复制链接
扫一扫
分享
社区描述
VB 基础类
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章