社区
嵌入开发(WinCE)
帖子详情
浮点数的计算
abner_86
2014-05-29 11:43:54
文献上提到对数可以用以下浮点数的方式计算:
Log2k=(((1261*k-8435)*k+24666)*k-17481)*2(-16)《其中2为底数,-16为指数》
但,当用K=8的代入计算,为什么得不3,而是约为32?
当K=27时,得不到约4,而是约2000多?
...全文
463
5
打赏
收藏
浮点数的计算
文献上提到对数可以用以下浮点数的方式计算: Log2k=(((1261*k-8435)*k+24666)*k-17481)*2(-16)《其中2为底数,-16为指数》 但,当用K=8的代入计算,为什么得不3,而是约为32? 当K=27时,得不到约4,而是约2000多?
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
5 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
91program
2014-05-31
打赏
举报
回复
如果是对的,估计也是在 Mathlab 之类专门做数据处理的代码中吧
别以为你站在珠峰就能看到全世界
2014-05-30
打赏
举报
回复
公式哪里来的,是否正确?
abner_86
2014-05-30
打赏
举报
回复
我在VC中仿的,用long double\ double\float分别定义的数据类型,结果都一样。 分步查看中间变量时,也没发现有溢出的数据, 不知这个式子本身,你们是否遇到或测试过没有?
91program
2014-05-29
打赏
举报
回复
数据溢出了吧,按 LS 所说将算式展开吧,一步步的分析结果,看看哪里出错了。
zgl7903
2014-05-29
打赏
举报
回复
用中间变量一步步分开来计算看看过程,估计数据溢出的可能性比较大
4字节
浮点数
计算
工具1.01 .exe
4字节
浮点数
计算
工具
4字节
浮点数
计算
工具
为了方便调试电力通信规约,自己写的一个小工具,主要是
计算
浮点数
使用,
计算
4字节的
浮点数
.附加了16进制转化10进制的功能.
TensorFlow Lite移动端开发
深度学习模型对于算力要求较高,为了能在算力羸弱的移动端进行部署,必须对原模型进行量化压缩,从而提升模型的
计算
性能,而TensorFlow Lite是一种用于设备端推断的开源深度学习框架,其能将TensorFlow模型转换为...
浮点数
计算
软件、工控
计算
器
输入4个字节的
浮点数
,自动装换成
浮点数
。还有16进制转换
MIPS汇编语言用整型数实现
浮点数
运算
该资源用MIPS汇编语言实现整型数实现
浮点数
运算,通过MFC1和MTC1转换
浮点数
和整型数,不使用其他
浮点数
运算函数。
嵌入开发(WinCE)
19,502
社区成员
41,568
社区内容
发帖
与我相关
我的任务
嵌入开发(WinCE)
硬件/嵌入开发 嵌入开发(WinCE)
复制链接
扫一扫
分享
社区描述
硬件/嵌入开发 嵌入开发(WinCE)
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章