社区
Java SE
帖子详情
关于定点数的疑问
last_summer_x
2017-08-27 10:39:38
既然定点数基本不存在精度流失,为什么java的基本数据类型里面没有定点数?
...全文
184
2
打赏
收藏
关于定点数的疑问
既然定点数基本不存在精度流失,为什么java的基本数据类型里面没有定点数?
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
2 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
tianshi1017
2017-08-28
打赏
举报
回复
帮顶,坐等他人解答
有符号十进制数向任意格式定点补码二进制数据转化matlab源码
1、此matlab文件可以实现有符号十进制数向任意格式定点补码二进制数据的转化:例如 fix16_13格式的定点二进制转化 ,-1.75:'1100100000000000' 0.75:'0001100000000000' 2、如果对
定点数
据格式不清楚的话,此处...
基于TI C55x架构的定点TMS320VC5509A音频专用DSP处理器开发板规格书.pdf
定点DSP指的是处理数字信号时使用
定点数
运算而不是浮点数运算的DSP处理器,定点DSP通常在功耗和成本上有优势,但需要更复杂的编程技巧以保证精度。TMS320VC5509A是TI C55x架构下的一款定点DSP处理器,广泛应用于音频...
计算机组成原理第二章全英文课件
在计算机组成原理的学习过程中,学生需要掌握的核心概念包括但不限于以下几点:二进制数制与进位计数系统、不同进制数之间的转换、
定点数
与浮点数的表示方法、算术逻辑单元(ALU)的工作原理、指令格式与寻址技术、...
整 数 与 浮 点 数的区别
在讨论中,有些用户提出
疑问
,认为在某些情况下,如将数据放大100倍来处理,整数运算可以达到与浮点数相似的精度,但这样做的确可能导致额外的计算和存储开销。不过,PLC的浮点数指令仍然有其存在的意义,尤其是在...
2010计算机考研408统考真题
2. 数据的表示和运算,包括
定点数
和浮点数的表示、溢出、舍入等。 3. 中央处理器(CPU)的组成、工作原理和指令系统。 4. 存储系统,包括主存、辅存、Cache的结构、原理及性能评估。 5. 输入输出系统,I/O接口、总线...
Java SE
62,628
社区成员
307,259
社区内容
发帖
与我相关
我的任务
Java SE
Java 2 Standard Edition
复制链接
扫一扫
分享
社区描述
Java 2 Standard Edition
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章