16,554
社区成员
发帖
与我相关
我的任务
分享这是不是一个BUG啊？关于在DATATABLE里用StDev计算数值时发现的一个问题高手进！
程序的过程是这样的：
1、从文件里取得数据放入DATATABLE中形成一个DT。
2、从DT中取得所需的数据，如第2列的最大值，最小值，平均值，STDEV的值等
出现的问题：
1、以前文件中记录少时没有问题，最近使用一个5万条左右记录的文件在求STDEV的值时取的值是“-1.#IND {Double}
Double: -1.#IND {Double}”，看样是Double型的值，但我用函数转换总是显示“非数字”。其它求最大最小值等均正常。
2、我把该文件分成2部分运行，一个是前2万条记录，另一个文件是剩下的记录，用这2个文件运行是没有问题的。。。。。。无语啊。。。。。。
3、怀疑是不是DATATABLE里用STDEV函数有行的限制啊？要不怎么会出现这种问题？！BUG？我找了一个其它文件，发现超过47000条（具体多少没仔细试验）记录后STDEV取数就有上边的问题
4、是不是取得值我转换的不对？谁知道怎么转换？
1、从文件里取得数据放入DATATABLE中形成一个DT。
2、从DT中取得所需的数据，如第2列的最大值，最小值，平均值，STDEV的值等
出现的问题：
1、以前文件中记录少时没有问题，最近使用一个5万条左右记录的文件在求STDEV的值时取的值是“-1.#IND {Double}
Double: -1.#IND {Double}”，看样是Double型的值，但我用函数转换总是显示“非数字”。其它求最大最小值等均正常。
2、我把该文件分成2部分运行，一个是前2万条记录，另一个文件是剩下的记录，用这2个文件运行是没有问题的。。。。。。无语啊。。。。。。
3、怀疑是不是DATATABLE里用STDEV函数有行的限制啊？要不怎么会出现这种问题？！BUG？我找了一个其它文件，发现超过47000条（具体多少没仔细试验）记录后STDEV取数就有上边的问题
4、是不是取得值我转换的不对？谁知道怎么转换？
...全文
请发表友善的回复…
发表回复
sjb_dl 2008-10-09
- 打赏
- 举报
顶啊顶
sjb_dl 2008-10-08
- 打赏
- 举报
用力顶起
sjb_dl 2008-10-07
- 打赏
- 举报
不是，我用EXCEL看了一下结果，结果没什么特别的，小数位也不多，感觉STDEV有行数限制
sjb_dl 2008-10-07
- 打赏
- 举报
有没有淫会啊？
破咖啡罐子 2008-10-07
- 打赏
- 举报
你不会是超出了Double的精度了吧？
sjb_dl 2008-10-05
- 打赏
- 举报
自己顶起
sjb_dl 2008-09-30
- 打赏
- 举报
没有问题，我把文件分成2个文件是可以过去的
good_Alex55 2008-09-30
- 打赏
- 举报
2万以后的数据类型有问题吧..........
