控制输出小数位DECIMALS求解。。。

ceasarcn 2011-03-21 11:41:48
大家好,有一道DECIMALS关键字控制输出小数位的程序语句不明白为什么,请帮忙解释一下。

DATA X TYPE F VALUE '123.456E2'.
WRITE Y DECIMALS 20.

=================================
这里输出结果为1.23456000000000+E04

不明白为什么是这样的输出呢,+E04是什么意思?控制输出小数点后20位为什么会加9个0,这样看上去小数点后只有14位啊。可以解释一下吗?
...全文
136 2 打赏 收藏 转发到动态 举报
AI 作业
写回复
用AI写文章
2 条回复
切换为时间正序
请发表友善的回复…
发表回复
bangchang 2011-04-13
  • 打赏
  • 举报
回复
用类型N输出应该就可以得到你要的数值了
衣犹未尽 2011-04-03
  • 打赏
  • 举报
回复
1,F为浮点数类型,其数值范围是 1x10**-307 到 1x10**308, 包括 0(零),
精确范围近 、似为 15 位十进制数。
2,F点数的显示就是按照科学计数法来显示一个数字的,即写成A × 10的N次幂的形式,A的绝对值在1到10之间。
基于以上两点,你应该明白为什么小数位是14位,而 E04就表示数学中的10的4次方。
希望能帮到你!

2,691

社区成员

发帖
与我相关
我的任务
社区描述
企业开发 ERP/CRM
社区管理员
  • ERP/CRM社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧