double向int 转换中的问题

Swallowdeng_cq 2007-09-13 04:49:54
先看一段代码
union luai_Cast { double l_d; long l_l; };
int k;
double n = 20.0f;
volatile union luai_Cast u;
u.l_d = (n) + 6755399441055744.0;
(k) = u.l_l;
这段代码是将一个double的值转换为int值的快速方法,不过在使用中在有些项目中发现(n) + 6755399441055744.0;这一步后u.l_d始终为6755399441055744.0,好像是到了上限样,各位高人告诉下是否vs需要专门设置才能正常使用
...全文
426 11 打赏 收藏 转发到动态 举报
写回复
用AI写文章
11 条回复
切换为时间正序
请发表友善的回复…
发表回复
Swallowdeng_cq 2007-09-14
  • 打赏
  • 举报
回复
楼上的代码够强,不过还是想弄清楚double为啥在 MFC扩展dll 中只最大只能为6755399441055744.0的原因
masterz 2007-09-14
  • 打赏
  • 举报
回复
有专门的CPU 指令做转换
_RoundD PROC NEAR
PUBLIC _RoundD
fld qword ptr [esp+4] ; Load x
push eax ; Make temporary space on stack
fistp dword ptr [esp] ; Round. Store in temporary stack space
pop eax ; Read from temporary stack space
ret
_RoundD ENDP

int RoundD (double x); // Round to nearest or even
Swallowdeng_cq 2007-09-14
  • 打赏
  • 举报
回复
基本都行的,测试了一下项目类型为“MFC扩展DLL”中会出现以上问题,其它的貌似不会,其实这个方法是id soft的卡马乔最先设计出的 6755399441055744.0 被称为 magic number
lyg_zy 2007-09-14
  • 打赏
  • 举报
回复
没看懂,大侠们解释一下!
stonehe 2007-09-14
  • 打赏
  • 举报
回复
高,实在是高啊
jixingzhong 2007-09-14
  • 打赏
  • 举报
回复
4: 这段代码设计的够精确的!
jixingzhong 2007-09-14
  • 打赏
  • 举报
回复
1:
double n = 20.0f;
==》
double n = 20.0;

2:
这样快么?

3:
运行VC6 VS05 都正常,未能重现问题
Swallowdeng_cq 2007-09-14
  • 打赏
  • 举报
回复
找到了,是浮点数精度问题,d3d冲突了
Yofoo 2007-09-13
  • 打赏
  • 举报
回复
不是这么用的, 试试以下代码

union luai_Cast
{
double d;
long l;
};

long lRet;
luai_Cast Val;
Val.d = 451284.0;
Val.d += 6755399441055744.0;
lRet = Val.l;
jhs1982419 2007-09-13
  • 打赏
  • 举报
回复
如果非要想得等到一整数挚爱,你得另想办法。
jhs1982419 2007-09-13
  • 打赏
  • 举报
回复
没必要double 本身就有个精度问题,这就是使用它的代价,只能无限接近,但永远也达不到。

16,471

社区成员

发帖
与我相关
我的任务
社区描述
VC/MFC相关问题讨论
社区管理员
  • 基础类社区
  • Web++
  • encoderlee
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告

        VC/MFC社区版块或许是CSDN最“古老”的版块了,记忆之中,与CSDN的年龄几乎差不多。随着时间的推移,MFC技术渐渐的偏离了开发主流,若干年之后的今天,当我们面对着微软的这个经典之笔,内心充满着敬意,那些曾经的记忆,可以说代表着二十年前曾经的辉煌……
        向经典致敬,或许是老一代程序员内心里面难以释怀的感受。互联网大行其道的今天,我们期待着MFC技术能够恢复其曾经的辉煌,或许这个期待会永远成为一种“梦想”,或许一切皆有可能……
        我们希望这个版块可以很好的适配Web时代,期待更好的互联网技术能够使得MFC技术框架得以重现活力,……

试试用AI创作助手写篇文章吧