社区
VB基础类
帖子详情
【CSDN】【请问没有小数位的大于20位的数用什么数据类型,不能有误差,因为要进行比较】
drillmaster7
2003-10-19 05:20:55
要进行 12345678901234567890 > 12345678901234567809 类似的判断
怎么判断呀?
...全文
87
3
打赏
收藏
【CSDN】【请问没有小数位的大于20位的数用什么数据类型,不能有误差,因为要进行比较】
要进行 12345678901234567890 > 12345678901234567809 类似的判断 怎么判断呀?
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
3 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
thirdapple
2003-10-19
打赏
举报
回复
自己写STRING的判断!
hacker007
2003-10-19
打赏
举报
回复
建议先进行长度比较,后进行每一位数的比较
qjqmoney
2003-10-19
打赏
举报
回复
定义数据类型为double类型
SQL表达式结果集的小数精度
精度、
小数
位
数和长度 (Transact-SQL)
精度是数字中的数字个数。
小数
位
数是数中小数点右边的数字个数。例如,数 123.45 的精度是 5,
小数
位
数是 2。
在 SQL Server 中,numeric 和 decimal
数据类型
的默认最大精度为 38。在 SQL Server 早期版本中,默认最大精度为 28。
数字
数据类型
的长度是存储此数所占用的字节数。字符串或 Unicode
数据类型
的长度是字符个数。binary、varbin
小数
位
数的处理(JS前端,C#后台,SQL处理,报表处理)
最近零零散散的做了一些
小数
位
数相关的内容,这里稍微总结一下。前段时间,我们的系统里面需要做一个根据
小数
位
数设置来处理数据的需求,在我开发之前,系统里面已经有过处理。系统里面有金额和积分
小数
位
数处理设置,这里以金额设置为例,之前的做法是这样的: 1. 系统里面配置默认参数:ConsumeMoneyIndexChoice,默认值为:“保留小数”,就是保留两
位
小数的意思,有一
位
的话就显示一
位
。然后...
关于double类型运算出现
误差
的原因及解决办法
因为这个小问题把仿真平台跑了一遍又一遍的菜鸡表示哭晕在厕所。。。 鉴于本来对平台就不是很熟,又遇到这么小的点在平台里,真是“福气”。 double属于floating binary point types,double型在运算使会先将数值转换成二进制的数值表示再做运算,但是在转换成二进制代码表示的时候,存储小数部分的
位
数会有不够的现象,即无限循环小数,故会有非常小的
误差
,但此时若
进行
==的判断则会...
python | 关于计算机内小数不精确的问题
原因解释: 浮点数(小数)在计算机中实际是以二进制存储的,并不精确。 比如0.1是十进制,转换为二进制后就是一个无限循环的数: 0.00011001100110011001100110011001100110011001100110011001100 python是以双精度(64bit)来保存浮点数的,后面多余的会被砍掉,所以在电脑上实际保存的已经小于0.1的值了,后面拿来参与运算就产生了
误差
。 解决办法: 使用decimal库 python中的decimal模块可以解决上面的烦恼 decima.
java中如何
比较
两个浮点型大小
浮点数的表示 在计算机系统中,浮点数采用 符号+阶码+尾数
进行
表示。 在Java中,单精度浮点数float类型占32
位
,它的二进制表示方式为: 符号
位
:1
位
,0表示正数; 1表示负数 指数
位
:8
位
,用来表示指数(要加上偏移量)
小数
位
:23
位
,用来表示小数 实际上计算机中的浮点数表示方法和科学技术法类似,小数的
位
数决定了浮点数的精度。当一个十进制的小数转换成二进制时,很有可能无法使用这么多
小数
位
表示它。因此使用浮点数的时候,实际存储的尾数是被截取或者舍入之后的值。因此使用浮点数
进行
计算的时候就不得不
VB基础类
7,759
社区成员
197,606
社区内容
发帖
与我相关
我的任务
VB基础类
VB 基础类
复制链接
扫一扫
分享
社区描述
VB 基础类
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章