社区
数据结构与算法
帖子详情
浮点数运算问题
songfen8432
2005-01-21 09:17:37
各位大侠,小弟的程序中有很多浮点数运算,且这个程序需要在嵌入式系统中运行,对实时性要求很高,据说可以把浮点数转成整数以提高实时性,可是小弟不知道该如何具体操作,各位大侠能否举个例子?
...全文
118
6
打赏
收藏
浮点数运算问题
各位大侠,小弟的程序中有很多浮点数运算,且这个程序需要在嵌入式系统中运行,对实时性要求很高,据说可以把浮点数转成整数以提高实时性,可是小弟不知道该如何具体操作,各位大侠能否举个例子?
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
6 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
songfen8432
2005-01-24
打赏
举报
回复
谢谢happy_888
寻开心
2005-01-22
打赏
举报
回复
那涉及到指数对齐, 用小数进行运算方法的方法
在网络上查找一下 定点运算吧
寻开心
2005-01-22
打赏
举报
回复
这样不可以的
你想 假定是3.0/5.0 结果是0.6才是
同样放大1000倍, 300/500按照整数除法还是0, 得不到0.6这个结果的
顶点运算简单的说是那样, 而实际当中并不是整整的转换位整数运算的
它是分成几个部分来处理的, 对于加减乘可以那样模拟, 除法的不可以
除法规则复杂得多呢
sankt
2005-01-21
打赏
举报
回复
不错
寻开心
2005-01-21
打赏
举报
回复
定点运算
精度保留在小数点后的3位
就相当于把浮点数乘以1.0e3这样的数据然后取整计算,结果再除以1.0e3
songfen8432
2005-01-21
打赏
举报
回复
能否举个例子呢?
我的理解是:
float f_1, f_2;
int i_1, i_2;
float result;
把
for (int i = 0; i < 10000; i ++)
{
result = f_1/f_2;
......
}
替换成
i_1 = f_1 * 1024;
i_2 = f_2 * 1024;
for (int i = 0; i < 10000; i ++)
{
result = i_1/i_2;
......
}
是这个意思吗?
C语言中浮点数精度
问题
分析.pdf
C语言中浮点数精度
问题
分析.pdf
解决js
浮点数运算
的精度
问题
在javascript中进行运算的时候经常会出现浮点数的
问题
,导致运算结果不准确 比如:0.1 + 0.2 = 0.30000000000000004 完整demo及解决方案如下: demo .num-tags, .total-tag { text-align: center; } i { ...
javascript
浮点数运算
Javascript 和大部分语言一样在
浮点数运算
时,经常出现精度丢失的
问题
,由于现在的大量Web项目经常涉及到货币计算或数学高级计算,此插件提供简单浮点运算,浮点存储格式符合IEEE754计算机
详解JavaScript
浮点数运算
的精度
问题
主要介绍了详解JavaScript
浮点数运算
的精度
问题
,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
JavaScript
浮点数运算
精度
问题
JavaScript小数在做四则运算时,精度会丢失,这会在项目中引起诸多不便,先请看下面脚本。
数据结构与算法
33,008
社区成员
35,326
社区内容
发帖
与我相关
我的任务
数据结构与算法
数据结构与算法相关内容讨论专区
复制链接
扫一扫
分享
社区描述
数据结构与算法相关内容讨论专区
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章