社区
VB基础类
帖子详情
怎样统计一个浮点数的有效位数和小数点的位置?
achilleshan
2003-11-23 10:10:45
怎样统计一个浮点数的有效位数和小数点的位置?谢谢大虾指教,刚开始学vb。
...全文
83
3
打赏
收藏
怎样统计一个浮点数的有效位数和小数点的位置?
怎样统计一个浮点数的有效位数和小数点的位置?谢谢大虾指教,刚开始学vb。
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
3 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
rainstormmaster
2003-11-23
打赏
举报
回复
Dim sng As string
sng = "1.23456"
MsgBox "小数点位于第" & InStr(sng, ".") & "位"
MsgBox "有效位为" & Len(sng- InStr(sng, ".") & "位"
achilleshan
2003-11-23
打赏
举报
回复
如果输入0.012345答案就不对了;(
silverblade
2003-11-23
打赏
举报
回复
Private Sub Command1_Click()
Dim sng As Single
sng = 1.23456
MsgBox "小数点位于第" & InStr(sng, ".") & "位"
MsgBox "有效位为" & Len(CStr(sng)) - InStr(sng, ".") & "位"
End Sub
C++中32位单精度
浮点数
有效数字是多少位?
单精度
浮点数
的
有效位数
是7位。 双精度
浮点数
的
有效位数
是16位
一个
浮点数
由三部分组成:符号位S、指数部分E(阶码)以及尾数部分M。单精度
浮点数
(float)总共用32位来表示
浮点数
,其中尾数用23位存储,加上
小数点
前有一位隐藏的1(IEEE754规约数表示法), `2^(23+1) = 16777216。因为 10^7 < 16777216 < 10^8,` 所以说单精度
浮点数
的
有效位数
是7位。考
【C语言】
浮点数
精度限制
浮点数
的精度不是精确到
小数点
后的多少位,而是这个总的
有效位数
。
C++_保留
有效位数
setprecision
目录 一:保留
有效位数
; 二:保留
小数点
后n位; 三:除法计算结果保留n位小数。 四:在计算过程中保留
有效位数
。 一:保留
有效位数
setprecision(n): 功能:控制
浮点数
显示的有效数字个数 特点:四舍五入进行保留; 如果
有效位数
不够,不会自动补0(3.15,setprecision(4);3.15) 如果
小数点
前的位...
C++中32位单精度
浮点数
能表示的十进制有效数字是多少位?()
单精度
浮点数
的
有效位数
是7位。 双精度
浮点数
的
有效位数
是16位。 单精度最少有6位有效数字(最小尺寸)。 双精度的
有效位数
最少15位
一个
浮点数
由三部分组成:符号位S、指数部分E(阶码)以及尾数部分M。 单精度
浮点数
(float)总共用32位来表示
浮点数
,其中尾数用23位存储,加上
小数点
前有一位隐藏的1(IEEE754规约数表示法)
格式化输出,
浮点数
e,f,g保留位数的计算方式不同,e,f :%.3e/f:取
小数点
后三位,g:%.3g总共
有效位数
为3,不包括
小数点
两种形式: %,{}:两者十分相近==》 不同处: 左对齐:%用-表示,而{}用<表示 右对齐:%默认右对齐,而{}用>表示 居中对齐:%无表示法,而{}用^表示 格式化输出,
浮点数
e,f,g保留位数的计算方式不同, e、f :%.3e/f ==》取
小数点
后三位,g:%.3g==》总共
有效位数
为3位(不包括
小数点
) 总体格式为:%m.n e/f/g 对g:而言m:总共显示...
VB基础类
7,732
社区成员
197,678
社区内容
发帖
与我相关
我的任务
VB基础类
VB 基础类
复制链接
扫一扫
分享
社区描述
VB 基础类
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章