33,311
社区成员
发帖
与我相关
我的任务
分享double类型有几位小数呢
比如double m = sqrt(3);
我写成double m = 1.7320508075688772935274463415059;当m进行乘除运算的时候会损失精度吗？后面的数据是从计算器里面拷贝的。
我写成double m = 1.7320508075688772935274463415059;当m进行乘除运算的时候会损失精度吗？后面的数据是从计算器里面拷贝的。
...全文
请发表友善的回复…
发表回复
zhujiehui 2010-05-03
- 打赏
- 举报
double 好像是16位吧
kingstarer 2010-05-03
- 打赏
- 举报
[Quote=引用楼主 xhwxhwxhwchubulai 的回复:]
比如double m = sqrt(3);
我写成double m = 1.7320508075688772935274463415059;当m进行乘除运算的时候会损失精度吗？后面的数据是从计算器里面拷贝的。
[/Quote]
会 double有效数字只有16位
比如double m = sqrt(3);
我写成double m = 1.7320508075688772935274463415059;当m进行乘除运算的时候会损失精度吗？后面的数据是从计算器里面拷贝的。
[/Quote]
会 double有效数字只有16位
pengzhixi 2010-05-03
- 打赏
- 举报
[Quote=引用 1 楼 zmlovelx 的回复:]
msdn Range of Values
float 4 3.4E +/- 38 (7 digits)
double 8 1.7E +/- 308 (15 digits)
[/Quote]
up
msdn Range of Values
float 4 3.4E +/- 38 (7 digits)
double 8 1.7E +/- 308 (15 digits)
[/Quote]
up
帅得不敢出门 2010-05-03
- 打赏
- 举报
msdn Range of Values
float 4 3.4E +/- 38 (7 digits)
double 8 1.7E +/- 308 (15 digits)
float 4 3.4E +/- 38 (7 digits)
double 8 1.7E +/- 308 (15 digits)
