-
本版专家分：15结帖率 96.43% -
最近做个程序，里面涉及到大量的小数的四则运算问题，但是在计算的过程中总是出问题，比如类型不匹配，或者计算的结果不是很准确，小数点后有误差
1.access 里应该设置什么类型？单精度？双精度？小数？
2.数据库读取出来的字段，必须转换成数字类型才能计算么？（cdbl）
3.计算的结果我想四舍五入保留3位小数，如果是小于1，前面显示0，只能用Formatnumber这个函数么？
最正确的做法应该是什么？
谢谢
-
本版专家分：188018
-
- 进士 2009年 总版技术专家分年内排行榜第七
-
- 金牌 2009年9月 总版技术专家分月排行榜第一
-
- 银牌 2009年8月 总版技术专家分月排行榜第二
-
-
红花
2011年11月 Web 开发大版内专家分月排行榜第一
2009年10月 Web 开发大版内专家分月排行榜第一
2009年9月 Web 开发大版内专家分月排行榜第一
2009年8月 Web 开发大版内专家分月排行榜第一
2009年7月 Web 开发大版内专家分月排行榜第一
2009年6月 Web 开发大版内专家分月排行榜第一
2007年7月 Web 开发大版内专家分月排行榜第一
2007年6月 Web 开发大版内专家分月排行榜第一
-
-
1 可以用双精度。
2 一般来说，你数据库是数字类型，那么用ADO读出来就是数字，除非数据库字段是字符串，那么要用CDbl()转后计算。
有可能是字段为空，先要判断一下。
不管如何CDbl()转一下再计算比较保险。
3 VBS浮点数用IEEE754，如果精度要求很高的，可以找找专业的COM组件
4 用 Formatnumber 输出格式还是比较靠谱的方案。直接在系统设置的话，换服务器就不保险了。
-
本版专家分：15
-
谢谢回复，
最开始我就是access 用双精度，但是有的时候计算结果有误差，比如累计相加结果差了0.02左右，
后来我access改成小数，但是从数据库读取后如果不用CDbl()，就显示类型不匹配，
一般最标准的做法是什么？谢谢
