LONGLONG类型与float、double类型进行乘法运算

laaling 2010-08-24 05:14:01
项目需求,如何进行LONGLONG类型与float、double类型进行乘法运算

在我的测试中发现,结果会溢出,计算结果不是负数,就是明显不正确

是否需要第三方库,才能进行以上类型的运算

谢谢
...全文
1036 9 打赏 收藏 转发到动态 举报
写回复
用AI写文章
9 条回复
切换为时间正序
请发表友善的回复…
发表回复
ozy2008 2010-10-13
  • 打赏
  • 举报
回复
[Quote=引用 8 楼 bc_rain 的回复:]
发现一个问题,使用TRACE格式化(%ld)输出LONGLONG类型时,输出不正确....
[/Quote]

%64Id
laaling 2010-08-25
  • 打赏
  • 举报
回复
发现一个问题,使用TRACE格式化(%ld)输出LONGLONG类型时,输出不正确....
长尾巴的悟空 2010-08-24
  • 打赏
  • 举报
回复
显然最后的结果是要统一为一种数据类型。
laaling 2010-08-24
  • 打赏
  • 举报
回复
我晕了,把它转换为秒级别,然后用long保存,再进行计算这样应该就可以了.....
laaling 2010-08-24
  • 打赏
  • 举报
回复
不好意思我先说说我的情况是,一个进度条,用来获取当前进度,获取进度百分比后,需要获取与LONGLONG类型的数进行乘法运算的结果,在获取结果的时候就老是得不到正确的结果,也就是结果是不会比原来的大,只会比原来的小,


float fPercent = m_SliderMedia.GetPos()/(m_SliderMedia.GetRangeMax()*1.0);
LONGLONG llPos = m_llTotalTime*llPer;

m_SliderMedia.GetPos()是进度条的当前值,m_SliderMedia.GetRangeMax()是进度条的最大值
m_llTotalTime是LONGLONG类型,是用IMediaSeeking::GetDuration获得的,单位是1/10000毫秒
laaling 2010-08-24
  • 打赏
  • 举报
回复
[Quote=引用 2 楼 s_pyd 的回复:]
longlong运算完还是保存在longlong里吗? 那应该还是比较容易溢出的
[/Quote]
我是新定义一个LONGLONG来保存计算结果的
那该要用什么类型来保存.....
dingshaofengbinbin 2010-08-24
  • 打赏
  • 举报
回复
超过longlong取值范围肯定会溢出,那只有用第三方库或者自己写一个简单的大数运算。
半刻沙漏 2010-08-24
  • 打赏
  • 举报
回复
longlong运算完还是保存在longlong里吗? 那应该还是比较容易溢出的
llzhe 2010-08-24
  • 打赏
  • 举报
回复
怎么测试的,看看代码,

16,470

社区成员

发帖
与我相关
我的任务
社区描述
VC/MFC相关问题讨论
社区管理员
  • 基础类社区
  • Web++
  • encoderlee
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告

        VC/MFC社区版块或许是CSDN最“古老”的版块了,记忆之中,与CSDN的年龄几乎差不多。随着时间的推移,MFC技术渐渐的偏离了开发主流,若干年之后的今天,当我们面对着微软的这个经典之笔,内心充满着敬意,那些曾经的记忆,可以说代表着二十年前曾经的辉煌……
        向经典致敬,或许是老一代程序员内心里面难以释怀的感受。互联网大行其道的今天,我们期待着MFC技术能够恢复其曾经的辉煌,或许这个期待会永远成为一种“梦想”,或许一切皆有可能……
        我们希望这个版块可以很好的适配Web时代,期待更好的互联网技术能够使得MFC技术框架得以重现活力,……

试试用AI创作助手写篇文章吧