社区
C++ Builder
帖子详情
问个浮点数精度的问题?
Totitan
2004-04-03 10:14:57
对于用long double 定义的数据类型,通过watch查看有效数字时发现,它的有效位数只有16位,并不是所谓的19位。这是怎么回事?
使用的是C++Builder 编译器。
...全文
41
3
打赏
收藏
问个浮点数精度的问题?
对于用long double 定义的数据类型,通过watch查看有效数字时发现,它的有效位数只有16位,并不是所谓的19位。这是怎么回事? 使用的是C++Builder 编译器。
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
3 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
xiaoshi0
2004-04-03
打赏
举报
回复
无语
studyever
2004-04-03
打赏
举报
回复
#include <stdio.h>
#include <float.h>
int main (void)
{
printf ("LDBL_DIG = %d bit\n" ,LDBL_DIG);
}
我在TC 2。0 显示的确实是19位.。也可以看头文件float,上面写着
#defind LDBL_DIG 19 .这样更方便吧~。书上可能是印错了吧!
studyever
2004-04-03
打赏
举报
回复
什么叫无语?!
我错了吗?
请指正!
单
精度
&双
精度
浮点数
与十六进制数相互转换
浮点数
和十六进制数的相互转换,包括:1.单
精度
浮点数
(32位)和十六进制数的相互转换,2.双
精度
浮点数
(64位)和十六进制数的相互转换。
js
浮点数
精度
问题
详解
浮点数
精度
问题
是计算机科学中一个常见的
问题
,由于二进制无法精确表示某些十进制小数,进行
浮点数
运算时可能会出现舍入误差。为了解决这个
问题
,可以使用整数进行计算、使用专门的库或者比较时使用误差范围。了解...
JS的
浮点数
计算
精度
丢失
问题
解决方案
近期在做项目的时候,遇到了一些JS
浮点数
精度
的
问题
。这个
问题
,其实说大不大,说小不小。但是这次因为涉及到一些财务和结算的
问题
,然后突然发现这个小
问题
处理起来还是挺麻烦的。这里把相关的原因的
问题
的解决方案...
【Python】numpy
浮点数
精度
问题
Python numpy
浮点数
精度
问题
在复现FP(fictitious play,Iterative solution of games by fictitious play-page393)算法的时候,迭代到中间发现没法复现paper里的结果,发现是numpy矩阵运算
浮点数
精度
的
问题
。 ...
详解
浮点数
的
精度
问题
详解
浮点数
精度
问题
C++ Builder
13,825
社区成员
102,679
社区内容
发帖
与我相关
我的任务
C++ Builder
C++ Builder相关内容讨论区
复制链接
扫一扫
分享
社区描述
C++ Builder相关内容讨论区
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章