C#double类型数据自动转化为科学计数法

zidianren11 2016-10-11 09:48:35

C#过程中遇到这样一个问题，程序里定义了一个double类型变量，从数据库查询出一个数值A赋值给这个变量,A这个数值是50000000000000000或50000022000000000或50000000000000043时程序会自动将其转化为科学计数，转化之后的分别为5E+16，5.0000022E+16，5E+16。而当A这个数值为50000022001200048时程序未将其转化为科学计数，显示仍然为5000002200120008,为什么此种情况程序未自动转化为科学计数。

...全文

2277 15 打赏收藏转发到动态举报

写回复

用AI写文章

15 条回复

切换为时间正序

请发表友善的回复…

发表回复

秋的红果实 2018-03-21

打赏
举报

做了测试，50000022001200047输出是50000022001200000，保留了前面15位有效数字，末尾的47抹去，成了00

以专业开发人员为伍 2018-03-21

打赏
举报

上述a、b说明了，字符串 b 值因为“反向分析”与原数值一致，所以它实际上使用

string.Format("{0:G}", (double)50000000000000000)

来格式化的。而对于 a 的值，由于字符串反向分析与double 值不一致，所以使用17位精度的字符串格式方式。

以专业开发人员为伍 2018-03-21

打赏
举报

你可以测试一下

var a = string.Format("{0:R}", (double)50000022001200047);
var b = string.Format("{0:R}", (double)50000000000000000);

的输出。但是这个不是最重要的，最重要的是高层的设计思路和分层思路正确，这样才能不走偏。

秋的红果实 2018-03-21

打赏
举报

double有效位数是15位，你50000022001200048.0。是不是贴错了，小数点前应该是15位而不是16位

以专业开发人员为伍 2018-03-21

打赏
举报

要知道“改变”的是调试器“快速监视窗口”上的文本，并不是 double 数据本身。表现层定义它自己的格式化方法，跟数据本身的含义无关，表现层跟数据模型是分离的。所以你首先要有“这个窗口为什么这样格式化 double”的意识，而不是认为从数据库读取出来的 double 值也因此改变了。

以专业开发人员为伍 2018-03-21

打赏
举报

引用 8 楼 caozhy 的回复:

没看明白，你是希望这样还是不希望这样

lz 认为 double 自己会 72 变，所以生怕 double 值在不同环境下乱变。

rjw_999 2018-03-21

打赏
举报

那只是显示方式而已，double变量本身里面的东西是不会变的

以专业开发人员为伍 2018-03-20

打赏
举报

给你抄一段 msdn：

R 或 r
往返过程
只有 Single 和 Double 类型支持此格式。往返过程说明符保证转换为字符串的数值再次被分析为相同的数值。使用此说明符格式化数值时，首先使用常规格式对其进行测试：Double 使用 15 位精度，Single 使用 7 位精度。如果此值被成功地分析回相同的数值，则使用常规格式说明符对其进行格式化。但是，如果此值未被成功地分析为相同数值，则它这样格式化：Double 使用 17 位精度，Single 使用 9 位精度。
虽然此处可以存在精度说明符，但它将被忽略。使用此说明符时，往返过程优先于精度。

double 永远也不会胡乱改变，改变的是 string 格式化结果，而不是什么 double 被自动转化。

threenewbee 2018-03-20

打赏
举报

没看明白，你是希望这样还是不希望这样

以专业开发人员为伍 2018-03-20

打赏
举报

msdn 如下： R 或 r 往返过程只有 Single 和 Double 类型支持此格式。往返过程说明符保证转换为字符串的数值再次被分析为相同的数值。使用此说明符格式化数值时，首先使用常规格式对其进行测试：Double 使用 15 位精度，Single 使用 7 位精度。如果此值被成功地分析回相同的数值，则使用常规格式说明符对其进行格式化。但是，如果此值未被成功地分析为相同数值，则它这样格式化：Double 使用 17 位精度，Single 使用 9 位精度。虽然此处可以存在精度说明符，但它将被忽略。使用此说明符时，往返过程优先于精度。

以专业开发人员为伍 2018-03-20