这浮点数要怎么保留十位有效数字啊

?7⁷ 2019-09-28 04:44:20
这浮点数要怎么保留十位有效数字啊
...全文
290 5 打赏 收藏 转发到动态 举报
写回复
用AI写文章
5 条回复
切换为时间正序
请发表友善的回复…
发表回复
?7⁷ 2019-09-29
  • 打赏
  • 举报
 回复
引用 4 楼 管理員 的回复：

"{:.10g}".format(32.3234123123123123)
不够要怎么补零
手无护鸡之力 2019-09-29
  • 打赏
  • 举报
 回复 

"{:.10g}".format(32.3234123123123123)
?7⁷ 2019-09-29
  • 打赏
  • 举报
 回复
引用 2 楼 SuperDay 的回复：
这不是已经是十位有效数字了吗？
不止
铖邑 2019-09-29
  • 打赏
  • 举报
 回复
这不是已经是十位有效数字了吗？
?7⁷ 2019-09-28
  • 打赏
  • 举报
 回复
round不行，格式化输出也不行
TensorFlow Lite移动端开发
位浮点数转换为更高效的 8 位整数进行量化,以到达模型快速运算的效果 . 伴随着深度学习技术的广泛使用,越来越多的深度学习模型被部署到移动端或IoT设备上运行,对于从事人工智能研发的相关人员,掌握...
浮点数的有效数字位数
过去有一种很普遍的说法是单精度浮点数的有效数字是6到7位。同时也有一个很普遍的问题就是：“6到7位是什么意思？到底是6位还是7位？”。现在似乎主流认知已经变成了单精度浮点数的有效数字就是7位。事实究竟是怎么...
C++中32位单精度浮点数能表示的十进制有效数字是多少位？（）
单精度最少有6位有效数字（最小尺寸）。 双精度的有效位数最少15位 一个浮点数由三部分组成：符号位S、指数部分E（阶码）以及尾数部分M。 单精度浮点数(float)总共用32位来表示浮点数，...
mysql数字有效位_保留十位有效数字
SQL四舍五入保留浮点数的十位有效数字 无 DECLARE @execsql NVARCHAR(1024)SET @execsql =N'SELECT CAST('+CAST(125.365412354 AS NVARCHAR(20)) +N' AS NUMERIC (20,'+STR(10-CEILING(LOG10(125.365412354)))+N'))'...
浮点数有效数字位数
所以这里我们可以得到float的十进制表示有效数字个数为： 这里最小的n为7，对于double，最小的n为15。 有时我们在代码中可能会看到比较浮点数时，会使用一个epsilon，而这个epsilon = 1e-6，可能就是因为当...
脚本语言

37,720

社区成员

34,239

社区内容

发帖
与我相关
我的任务
社区描述
JavaScript，VBScript，AngleScript，ActionScript，Shell，Perl，Ruby，Lua，Tcl，Scala，MaxScript 等脚本语言交流。
社区管理员
  • 脚本语言(Perl/Python)社区
  • IT.BOB
加入社区
  • 近7日
  • 近30日
  • 至今

加载中

查看更多榜单

试试用AI创作助手写篇文章吧

+ 用AI写文章