110,561
社区成员
发帖
与我相关
我的任务
分享VS2005 Pi值好像有问题啊 BUG
今天我在VS2005C#下调试程序，发现VS2005的System.Math.PI值是
System.Math.PI 3.1415926535897931 double
查了一下网上的资料，发现这个值最后一位是错误的！！！
错误3.1415926535 897931
正确3.1415926535 8979323846 2643383279 5028841971 6939937510 ...
System.Math.PI 3.1415926535897931 double
查了一下网上的资料，发现这个值最后一位是错误的！！！
错误3.1415926535 897931
正确3.1415926535 8979323846 2643383279 5028841971 6939937510 ...
...全文
请发表友善的回复…
发表回复
csShooter 2008-10-15
- 打赏
- 举报
高精度计算,可以把整数小数分开来算!!
宝_爸 2008-10-15
- 打赏
- 举报
浮点数精度问题
wangyanboq 2008-10-15
- 打赏
- 举报
System.Math.PI是double类型，double类型在机器表示的时候丢失精度是很正常的。
你试试
double a = 10.28;
double b = 10.27;
double c = a - b;
MessageBox.Show(c.ToString());//不是0.01
double最多精确到小数点后15位，你可以数数不对的地方，正好从小数点后16位开始
你试试
double a = 10.28;
double b = 10.27;
double c = a - b;
MessageBox.Show(c.ToString());//不是0.01
double最多精确到小数点后15位，你可以数数不对的地方，正好从小数点后16位开始
静如流水 2008-10-15
- 打赏
- 举报
double 1 <> double 1
习惯就好。。。
习惯就好。。。
qche111 2008-10-15
- 打赏
- 举报
楼主真细心哪~~
(^ω^)
(^ω^)
