怎样统计一个浮点数的有效位数和小数点的位置？

achilleshan 2003-11-23 10:10:45

怎样统计一个浮点数的有效位数和小数点的位置？谢谢大虾指教，刚开始学vb。

...全文

83 3 打赏收藏转发到动态举报

写回复

用AI写文章

3 条回复

切换为时间正序

请发表友善的回复…

发表回复

rainstormmaster 2003-11-23

打赏
举报

Dim sng As string
sng = "1.23456"
MsgBox "小数点位于第" & InStr(sng, ".") & "位"
MsgBox "有效位为" & Len(sng- InStr(sng, ".") & "位"

achilleshan 2003-11-23

打赏
举报

如果输入0.012345答案就不对了;(

silverblade 2003-11-23

打赏
举报

Private Sub Command1_Click()
Dim sng As Single
sng = 1.23456
MsgBox "小数点位于第" & InStr(sng, ".") & "位"
MsgBox "有效位为" & Len(CStr(sng)) - InStr(sng, ".") & "位"

End Sub

单精度浮点数的有效位数是7位。双精度浮点数的有效位数是16位一个浮点数由三部分组成：符号位S、指数部分E（阶码）以及尾数部分M。单精度浮点数(float)总共用32位来表示浮点数，其中尾数用23位存储，加上小数点前有一位隐藏的1(IEEE754规约数表示法)， `2^(23+1) = 16777216。因为 10^7 < 16777216 < 10^8，` 所以说单精度浮点数的有效位数是7位。考

浮点数的精度不是精确到小数点后的多少位，而是这个总的有效位数。

目录一：保留有效位数；二：保留小数点后n位；三：除法计算结果保留n位小数。四：在计算过程中保留有效位数。一：保留有效位数 setprecision（n）：功能：控制浮点数显示的有效数字个数特点：四舍五入进行保留；如果有效位数不够，不会自动补0（3.15，setprecision（4）；3.15）如果小数点前的位...

单精度浮点数的有效位数是7位。双精度浮点数的有效位数是16位。单精度最少有6位有效数字（最小尺寸）。双精度的有效位数最少15位一个浮点数由三部分组成：符号位S、指数部分E（阶码）以及尾数部分M。单精度浮点数(float)总共用32位来表示浮点数，其中尾数用23位存储，加上小数点前有一位隐藏的1(IEEE754规约数表示法)

两种形式： %,{}:两者十分相近==》不同处：左对齐：%用-表示，而{}用<表示右对齐：%默认右对齐，而{}用>表示居中对齐:%无表示法,而{}用^表示格式化输出，浮点数e,f,g保留位数的计算方式不同, e、f :%.3e/f ==》取小数点后三位，g:%.3g==》总共有效位数为3位（不包括小数点）总体格式为：%m.n e/f/g 对g:而言m:总共显示...

VB基础类

7,732

社区成员

197,678

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章