社区
JavaScript
帖子详情
如何让两浮点数相加结果不用科学计数表示?
doli
2003-07-17 04:22:56
如何让两浮点数相加结果不用科学计数表示?
...全文
96
4
打赏
收藏
如何让两浮点数相加结果不用科学计数表示?
如何让两浮点数相加结果不用科学计数表示?
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
4 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
liuyann
2003-07-17
打赏
举报
回复
比如
var i,j
var k
k = i + j;
k = int(k*10000)/10000
doli
2003-07-17
打赏
举报
回复
gooddot(飞影) ,你给出的是vbscript吗?
gooddot
2003-07-17
打赏
举报
回复
用 formatnumber
描述
返回表达式,此表达式已被格式化为数值。
语法
FormatNumber(expression [,NumDigitsAfterDecimal [,IncludeLeadingDigit [,UseParensForNegativeNumbers [,GroupDigits]]]])
FormatNumber 函数的语法有以下参数:
参数 描述
expression 必选。要被格式化的表达式。
NumDigitsAfterDecimal 可选。指示小数点右侧显示位数的数值。默认值为 -1,指示使用的是计算机的区域设置。
IncludeLeadingDigit 可选。三态常数,指示是否显示小数值小数点前面的零。有关数值,请参阅“设置”部分。
UseParensForNegativeNumbers 可选。三态常数,指示是否将负值置于括号中。有关数值,请参阅“设置”部分。
GroupDigits 可选。三态常数,指示是否使用计算机区域设置中指定的数字分组符号将数字分组。有关数值,请参阅“设置”部分。
设置
IncludeLeadingDigit、UseParensForNegativeNumbers 和 GroupDigits 参数可以有以下值:
常数 值 描述
TristateTrue -1 True
TristateFalse 0 False
TristateUseDefault -2 使用计算机区域设置中的设置。
说明
当省略一个或多个可选参数时,由计算机区域设置提供被省略参数的值。
--------------------------------------------------------------------------------
注意 所有设置信息均取自区域设置的“数字”附签。
--------------------------------------------------------------------------------
下面例子利用 FormatNumber 函数把数值格式化为带四位小数点的数:
Function FormatNumberDemo
Dim MyAngle, MySecant, MyNumber
MyAngle = 1.3 ' 用弧度定义角。
MySecant = 1 / Cos(MyAngle) ' 计算正割值。
FormatNumberDemo = FormatNumber(MySecant,4) ' 把 MySecant 格式化为带四位小数点的数。
End Function
plghqr
2003-07-17
打赏
举报
回复
先变成整数相加
浮点数
——
科学
计数
法、
浮点数
表示
、加减运算和
浮点数
的使用
浮点数
是采用
科学
计数
法来
表示
的,由符号位、有效数字、指数三部分组成。使用
浮点数
存储和计算的场景无处不在,若使 用不当则容易造成计算与理论值不一致,如下示例代码。 float a = 1f; float b = 0.9f...
php
科学
计数
法避免,php怎么设置
不用
科学
计数
法?
php设置
不用
科学
计数
法的方法:先使用number_format()函数通过千位分组来格式化数字,语法“number_format(number)”;然后通过echo语句输出格式化后的数字即可。遇见
科学
记数法的时候解决方法就是使用php格式化数字...
为什么在Python中
两
个
浮点数
的运算结果会不精确?
在python中定义
两
个浮点型变量,值分别为1.1和2.2,
两
者
相加
并输出结果,结果并非为我们直观得到的3.3,而是趋近于3.3的一个小数值。 代码如下: n1 = 1.1 n2 = 2.2 print(n1+n2) 输出结果: 3.3000000000000003 ...
浮点数
相加
php,利用php怎么实现一个
浮点数
精确运算功能
利用php怎么实现一个
浮点数
精确运算功能发布时间:2020-12-15 16:06:03来源:亿速云阅读:94作者:Leah今天就跟大家聊聊有关利用php怎么实现一个
浮点数
精确运算功能,可能很多人都不太了解,为了让大家更加了解,小...
浮点数
为何做不到精确计算?
1
浮点数
为何做不到精确计算?...根据IEEE(电子和电气工程师协会)规定,任意一个
浮点数
N都可以用如下
科学
计数
法
表示
:N=(−1)S∗M∗2EN=(-1)^S*M*2^EN=(−1)S∗M∗2E 其中, 符号(sign):S决定正数
JavaScript
87,919
社区成员
224,617
社区内容
发帖
与我相关
我的任务
JavaScript
Web 开发 JavaScript
复制链接
扫一扫
分享
社区描述
Web 开发 JavaScript
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章