求教关于CString和double之间互相转换的问题

sharp0077 2016-01-06 01:47:24
最近在用MFC做一个计算器程序,类似XP的简易计算器
double型数据进行加减乘除运算后,会有小数的问题

问题1
1/3 = 0.333333循环
通过string.format("%f",dNum) 得出结果是 0.333333
通过string.format("%g",dNum) 得出结果也是 0.333333
有没有控制循环小数位数的方法?

问题2
4除2
string.format("%f",dNum)后得到2.000000(因为只显示6位小数,一直除2下去的话会显示0.000000)
string.format("%g",dNum)后得到2(看来貌似只能用这个)
用%g,当数值出现过大或过小时 会用e的形式表示值,怎么控制e前面的小数位个数?(例 1.12346e+001)

问题3
如果用%g,那么会出现如下求倒数(1/x )的问题
6的倒数是 0.166667
拿上面的值直接再求倒会得到5.999999,实际应该是6才对。 double型数值连做两次倒数怎么破?

...全文
91 5 打赏 收藏 转发到动态 举报
写回复
用AI写文章
5 条回复
切换为时间正序
请发表友善的回复…
发表回复
zhouxiaofeng1021 2016-01-06
  • 打赏
  • 举报
回复
问题3 如果用%g,那么会出现如下求倒数(1/x )的问题 6的倒数是 0.166667 拿上面的值直接再求倒会得到5.999999,实际应该是6才对。 double型数值连做两次倒数怎么破? 这个问题 double 变量计算会有精度损失~~~ 所以呢 比如 double m= 6.0; if(m == 6) { //这样做是不符的 } 要这么写 if(abs(m -6) <= 0.00001)之类的就可以
zhouxiaofeng1021 2016-01-06
  • 打赏
  • 举报
回复
问题2 4除2 string.format("%f",dNum)后得到2.000000(因为只显示6位小数,一直除2下去的话会显示0.000000) 问题2和1是同一个问题 就是%f"默认小数点后,精度 就是6位~~~
zhouxiaofeng1021 2016-01-06
  • 打赏
  • 举报
回复
double db =1.0/3; CString str; str.Format(_T("%20.10f"), db); 小数点后有10位 str.Format(_T("%20.2f"), db); 小数点后有2位
paschen 2016-01-06
  • 打赏
  • 举报
回复
浮点数是有精度问题的,你转换成字符串本来就会导致精度丢失,一个无限循环的小数你不可能用一个字符串精确存储! 可以在某些情况下用四舍五入得到你想要的数
paschen 2016-01-06
  • 打赏
  • 举报
回复
string.Format("%0.2f",dNum) //2位小数

16,472

社区成员

发帖
与我相关
我的任务
社区描述
VC/MFC相关问题讨论
社区管理员
  • 基础类社区
  • Web++
  • encoderlee
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告

        VC/MFC社区版块或许是CSDN最“古老”的版块了,记忆之中,与CSDN的年龄几乎差不多。随着时间的推移,MFC技术渐渐的偏离了开发主流,若干年之后的今天,当我们面对着微软的这个经典之笔,内心充满着敬意,那些曾经的记忆,可以说代表着二十年前曾经的辉煌……
        向经典致敬,或许是老一代程序员内心里面难以释怀的感受。互联网大行其道的今天,我们期待着MFC技术能够恢复其曾经的辉煌,或许这个期待会永远成为一种“梦想”,或许一切皆有可能……
        我们希望这个版块可以很好的适配Web时代,期待更好的互联网技术能够使得MFC技术框架得以重现活力,……

试试用AI创作助手写篇文章吧