CSDN论坛 > C/C++ > C语言

非常纳闷:float不是7位有效数字吗? [问题点数:5分,结帖人theMostValuablePers]

Bbs1
本版专家分:0
结帖率 100%
CSDN今日推荐
Bbs1
本版专家分:0
Bbs1
本版专家分:0
Bbs4
本版专家分:1963
Bbs9
本版专家分:58439
Blank
红花 2003年6月 C/C++大版内专家分月排行榜第一
2002年5月 C/C++大版内专家分月排行榜第一
Blank
黄花 2003年9月 C/C++大版内专家分月排行榜第二
2002年6月 C/C++大版内专家分月排行榜第二
2002年4月 C/C++大版内专家分月排行榜第二
Blank
蓝花 2007年3月 C/C++大版内专家分月排行榜第三
2007年2月 C/C++大版内专家分月排行榜第三
2007年1月 C/C++大版内专家分月排行榜第三
2003年7月 C/C++大版内专家分月排行榜第三
匿名用户不能发表回复!
其他相关推荐
c++课程讲义
float: 4字节,6~7位有效数字, -3.4* 10 ~ 3.4*10 double: 8字节,15~16位有效数字, -1.7*10 ~1.7*10 long double: 同double 参考:IEEE 754标准 需注意的问题:有效数字,数据溢出
单精度float 和双精度double
单精度实数在内存中占32bit 有效数字为6~7位 双精度实数占内存单元为64bit 有效数字为15~16位 没有说明时,实型常量是作为双精度处理的,若要使用单精度需在后面加上字母f或F,如123.45f
浮点数(float,double)表数范围和精度问题
浮点数(float,double)表数范围和精度问题 浮点数(float,double)表数范围和精度问题 其实之前就遇到过浮点数精度丢失的问题,但是一直没有去深入研究,只是停留在知识记忆的层面,久而久之发现之前的东西都忘记了,之所以想要围绕这个问题来写一篇文章,是因为最近出现的一个bug,在项目中一个列表显示中id列后台数据是long类型,前端用easyui显示的时候发现数据...
C++中32位单精度浮点数能表示的十进制有效数字是多少位?()
单精度浮点数的有效位数是7位。 双精度浮点数的有效位数是16位。 单精度最少有6位有效数字(最小尺寸)。 双精度的有效位数最少15位 一个浮点数由三部分组成:符号位S、指数部分E(阶码)以及尾数部分M。 单精度浮点数(float)总共用32位来表示浮点数,其中尾数用23位存储,加上小数点前有一位隐藏的1(IEEE754规约数表示法)
两个数的运算,结果保留n位有效数字,不足补0。
解决编程中强制保留n位小数位数的问题
Java使用BigDecimal保留double、float运算精度、保留指定位数有效数字、四舍五入
工具类package ……;import java.math.BigDecimal;/** * Created by kongqw on 2015/12/10. */ public final class BigDecimalUtil { private BigDecimalUtil() { } /** * 加法运算 * * @param d1 d1 * @para
C++中32位单精度浮点数有效数字是多少位?
单精度浮点数的有效位数是7位。 双精度浮点数的有效位数是16位 一个浮点数由三部分组成:符号位S、指数部分E(阶码)以及尾数部分M。单精度浮点数(float)总共用32位来表示浮点数,其中尾数用23位存储,加上小数点前有一位隐藏的1(IEEE754规约数表示法), `2^(23+1) = 16777216。因为 10^7 < 16777216 < 10^8,` 所以说单精度浮点数的有效位数是7位。考
float,double 的范围和有效数字怎么算出来的?
首先说一下:  范围是3.4E-38 ——3.4E+38,可提供7位有效数字。  上述这两个量都是近似值,各个编译器不太一样的。  下面我就将标准值是怎么定义的,和你说一下:  这个比较复杂,建议你找一下IEEE754标准看一下。  这个简单说一下吧:  在IEEE754标准中进行了单精度浮点数(float)和双精度数浮点数(double)的定义。float有32bit,doubl
float,double 小数点有效数字
#include &quot;stdafx.h&quot; #include &amp;lt;Windows.h&amp;gt; int main() { float f = 3.1234567890123456789012345678901234567890; double d = 3.1234567890123456789012345678901234567890; printf(&quot;1/3 = %.2...
实数的输出格式(C++程序设计第7周)
问题描述利用流操纵算子实现: 输入一个实数,先以非科学计数法输出,小数点后面保留5位有效数字;再以科学计数法输出,小数点后面保留7位有效数字。注意:在不同系统、编译器上的输出格式略有不同,但保证在程序中采用默认格式设置一定能在OJ平台上得到正确结果。输入以非科学计数法表示的一个正实数,保证可以用double类型存储。输出第一行:以非科学计数法输出该实数,小数点后面保留5位有效数字;第二行:以科学计数
关闭
关闭