_tstof 的误差

顽固己死_有事烧纸 2008-10-20 03:53:37

比如我有个 string 是 "0.6"

然后调用了_tstof 转成double型就会变成 0.5999999

囧~~有办法解决吗？

...全文

548 4 打赏收藏转发到动态举报

写回复

用AI写文章

4 条回复

切换为时间正序

请发表友善的回复…

发表回复

tsnpng 2011-07-28

打赏
举报

确实有精度损失，和楼主遇到的情况一样

顽固己死_有事烧纸 2008-10-20

打赏
举报

囧~~那就这样吧~~

vcPlayer 2008-10-20

打赏
举报

这个不是误差，在计算机中就是这样表示的。因此你不会看到在比较浮点数的时候用这种方法：

double val1, val2;

if( va1 == val2 )

{...}

菜牛 2008-10-20

打赏
举报

没办法，计算机保存浮点数就是有精度问题。不过你格式化为一位小数输出还是0.6。

CString str = CString("Almost mad!"); float tempFloat = 0.0; tempFloat = atof(str);，但是出现这样的错误 error C2664: atof : cannot convert parameter 1 from CS

有些wince平台不支持_ttof，在tchar.h头文件中可以看到： 1 // Not implemented for CE 2 #define _ttof _wtof 3 #define _tstof _wtof 所以无法使用_ttof将字符串转换为float值，

测边网平差计算有测边网如下图所示。网中A、Ｂ、Ｃ、Ｄ为已知点，P1、P2、P3、P4为待定点，现用某测距仪观测了13条边长，测距精度 = 3mm+1*10-6s，起算数据及观测边长见下，按间接平差法求待定点坐标平差值及其中误差。起算数据边长坐标方位角 X Y m ° &nbs

此文章为测绘程序设计实习中所设计的一个平差绘图项目。

目录1、题目2、分析及源码3、随笔 1、题目如图，A、B、C为已知水准点，HA=20.00m，HB=10.00m，HC=11.00m，观测高差及所在距离如下，试求： 1）各高差平均值； 2）P1、P2点高程平差值及其中误差。观测高差距离 h1 = 2.02m s1 = 10km h2 = 3.12m s2 = 5km h3 = 15.21m s3 = 5km h4 = 14.14m s4 = 5km 2、分析及源码由题意有n=13，t=8，选待定点P1，P2，P3，

VC/MFC

16,472

社区成员

421,732

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

VC/MFC社区版块或许是CSDN最“古老”的版块了，记忆之中，与CSDN的年龄几乎差不多。随着时间的推移，MFC技术渐渐的偏离了开发主流，若干年之后的今天，当我们面对着微软的这个经典之笔，内心充满着敬意，那些曾经的记忆，可以说代表着二十年前曾经的辉煌……
向经典致敬，或许是老一代程序员内心里面难以释怀的感受。互联网大行其道的今天，我们期待着MFC技术能够恢复其曾经的辉煌，或许这个期待会永远成为一种“梦想”，或许一切皆有可能……
我们希望这个版块可以很好的适配Web时代，期待更好的互联网技术能够使得MFC技术框架得以重现活力，……

试试用AI创作助手写篇文章吧

+ 用AI写文章