浮点数的计算

abner_86 2014-05-29 11:43:54
文献上提到对数可以用以下浮点数的方式计算:
Log2k=(((1261*k-8435)*k+24666)*k-17481)*2(-16)《其中2为底数,-16为指数》
但,当用K=8的代入计算,为什么得不3,而是约为32?
当K=27时,得不到约4,而是约2000多?

...全文
463 5 打赏 收藏 转发到动态 举报
写回复
用AI写文章
5 条回复
切换为时间正序
请发表友善的回复…
发表回复
91program 2014-05-31
  • 打赏
  • 举报
回复
如果是对的,估计也是在 Mathlab 之类专门做数据处理的代码中吧
  • 打赏
  • 举报
回复
公式哪里来的,是否正确?
abner_86 2014-05-30
  • 打赏
  • 举报
回复
我在VC中仿的,用long double\ double\float分别定义的数据类型,结果都一样。 分步查看中间变量时,也没发现有溢出的数据, 不知这个式子本身,你们是否遇到或测试过没有?
91program 2014-05-29
  • 打赏
  • 举报
回复
数据溢出了吧,按 LS 所说将算式展开吧,一步步的分析结果,看看哪里出错了。
zgl7903 2014-05-29
  • 打赏
  • 举报
回复
用中间变量一步步分开来计算看看过程,估计数据溢出的可能性比较大

19,502

社区成员

发帖
与我相关
我的任务
社区描述
硬件/嵌入开发 嵌入开发(WinCE)
社区管理员
  • 嵌入开发(WinCE)社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧