CString::Format("%lf"..精度太高了

2011-10-24 10:23:55 270 阅读 AI 写同款 · GEO 优化AI 选题数据监测一键分发 ›

caddor2011 墨衍会员 · AI 创作全网分发关注 + 加入社区

unet学习笔记（milesial/Pytorch-UNet）提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 unet学习笔记（milesial/Pytorch-UNet）原理讲解unet_parts.py内容predict.py内容所用到的代码Pytorch-UNet/predict.py at master · milesial/Pytorch-UNet ·GitHub 原理讲解蓝/白色框表示 feature map；蓝色箭头表示 3x3 卷积，用于特征提取；灰色箭头表示skip-connection，用于特征融合；红色箭头. 阅读详情

有一函数，根据用户传入的值，来求解它的长度

比如：320.10 ，长度为6

257.21 长度为6 我是用CString 来求解

int Length( double val)
{

CString str;

str.Format("%lf",val); // 导致长度错误

return str.GetLength();

}

根源在于 double 给我添加了很多小数点

当然有其他办法求解，我觉得CString 比较方便，没想到精度捣乱

...全文

ArcGIS新手必看：HWSD2土壤数据从下载到批量提取TIFF的完整流程本文详细介绍了ArcGIS中HWSD2土壤数据的完整处理流程，从数据下载、预处理到批量提取TIFF文件。涵盖栅格属性表构建、属性数据连接及性能优化等关键步骤，帮助新手高效掌握HWSD2数据提取技术，提升地理信息数据处理效率。阅读详情

caddor2011

C++ 语言 65,214 成员 250,514 内容

+ 关注 + 加入社区

切换为时间正序

赵4老师 2011-10-24

打赏
举报

str.Format("%6.2lf",val);

赵4老师 2011-10-24

打赏
举报

用10进制小数不能精确表示某些三进制小数0.1(3)=0.33333333333……(10)
同理，用二进制小数也不能精确表示某些10进制小数。

C:\Program Files\Microsoft Visual Studio\VC98\Include\FLOAT.H

...

#define DBL_DIG         15                      /* # of decimal digits of precision */

#define DBL_EPSILON     2.2204460492503131e-016 /* smallest such that 1.0+DBL_EPSILON != 1.0 */

#define DBL_MANT_DIG    53                      /* # of bits in mantissa */

#define DBL_MAX         1.7976931348623158e+308 /* max value */

#define DBL_MAX_10_EXP  308                     /* max decimal exponent */

#define DBL_MAX_EXP     1024                    /* max binary exponent */

#define DBL_MIN         2.2250738585072014e-308 /* min positive value */

#define DBL_MIN_10_EXP  (-307)                  /* min decimal exponent */

#define DBL_MIN_EXP     (-1021)                 /* min binary exponent */

#define _DBL_RADIX      2                       /* exponent radix */

#define _DBL_ROUNDS     1                       /* addition rounding: near */

...

luciferisnotsatan 2011-10-24

打赏
举报

str.Format("%lf",(long double)val);
这样试试

caddor2011 2011-10-24

打赏
举报

up up

caddor2011 2011-10-24

打赏
举报

lg 是什么？？

谁有法子，原汁原味的，获得 val 的长度？？

val 是 358.30 6位长度，，，，

但是函数参数类型为double 立即给我转了精度

我不能改函数，改了函数，其他地方有要改，受不了

[Quote=引用 2 楼 zhao4zhong1 的回复:]
str.Format("%lg",val);
[/Quote]

赵4老师 2011-10-24

打赏
举报

str.Format("%lg",val);

诶呦 2011-10-24

打赏
举报

你的小数部分为2位，但是str.Format("%lf",val); 的val是按double的类型有效数字（）转化的，也就是说他的小数部分有六位，那么你在str.GetLength();肯定就有问题了

CString::Format("%lf"..精度太高了

相关推荐