社区
Java SE
帖子详情
long转float会有精度损失?
pngg
2014-05-16 05:16:46
long x=123456789;
float f =x;
System.out.println(f);
结果是1.23456792E8
long 8字节 float 4字节
位数不足是怎么截断的 具体这个1.23456792E8是怎么的出来的?
...全文
689
4
打赏
收藏
long转float会有精度损失?
long x=123456789; float f =x; System.out.println(f); 结果是1.23456792E8 long 8字节 float 4字节 位数不足是怎么截断的 具体这个1.23456792E8是怎么的出来的?
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
4 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
kiyoki
2014-05-17
打赏
举报
回复
按照IEEE754的标准转换咯
机器学习之禅
2014-05-16
打赏
举报
回复
我是来学习的
u013646870
2014-05-16
打赏
举报
回复
学习。学习,学习,学习
tony4geek
2014-05-16
打赏
举报
回复
参考
JAVA Char类型强制
转
换情况&int、
long
转
float
、double的
精度
丢失问题
本文主要探讨JAVA数据类型
转
换情况。JAVA自动类型
转
换int
long
转
float
、double
精度
丢失情况探讨&JAVA强制类型
转
换 char
转
short byte的情况探讨
浮点数存储机制和int
转
float
精度
损失
问题
之前几篇文章都是讲的正数的存储和加减乘除和位移运算,我被勾起了好奇心又去研究了一下浮点数,发现浮点数和正数的存储方式完全不一样,同时也证明了以前学习的粗陋. 我相信在刚学java的时候,一定
会
背这样一个规律: int
转
为
float
可能
损失
精度
, int
转
为double不
损失
精度
. 以前我学到这里的时候,死记硬背,不求甚解,回头再仔细看看,就有些看不懂了,int和
float
都是32位,为什么可能
会
损...
[java基本类型]-
long
与
float
的数据
转
换,
精度
是如何丢失的
程序: public static void main(String[] args) { int a = 49969950; System.out.println((
float
) a); } 输出结果: 4.9969952E7 是怎么运算的呢? 首先49969950
转
换成二进制为10111110100111101100011110,用二进制科学技...
java基本类型
转
换--
精度
丢失问题
先上一个整体
转
换图 如图所示,其中实线byte→short、short→int、int→
long
、int→double、char→int、
float
→double
转
换是不
会
发生
精度
丢失的,因为后者所包含的范围比前者大且完全包含前者。 而虚线int
转
float
、
long
转
float
,
long
转
double都
会
发生
精度
丢失。
精度
丢失包括两种,一是有效数字丢失,一是目标类型完全无法表示数据 原因如下:...
double
转
float
损失
精度
(一)32位平台: 分为有符号型与无符号型。 有符号型: short 在内存中占两个字节,范围为-2^15~(2^15-1) int 在内存中占四个字节,范围为-2^31~(2^31-1)
long
在内存中占四个字节,范围为-2^31~2^31-1 无符号型:最高位不表示符号位 unsigned short 在内存中占两个字节,范围为0~2^16-1 unsigned int 在内存中占四个字节,...
Java SE
62,614
社区成员
307,326
社区内容
发帖
与我相关
我的任务
Java SE
Java 2 Standard Edition
复制链接
扫一扫
分享
社区描述
Java 2 Standard Edition
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章