关于微机由于数据精度产生的漂移有什么好的解决方法?
例如:20个双精度数据累加,本来是确切的30,但由于精度,在十几位后产生一个漂移,
那结果就可能是30.000000000000000001,这本来没什么,但如果要求平均,保留一位小数,因为round,cint,clng等函数按照“四舍六入五留双”的原则计算,那结果就是1.6,而不是1.5(有尾恒留双),请教诸位有什么通用的方法?
那结果就可能是30.000000000000000001,这本来没什么,但如果要求平均,保留一位小数,因为round,cint,clng等函数按照“四舍六入五留双”的原则计算,那结果就是1.6,而不是1.5(有尾恒留双),请教诸位有什么通用的方法?
...全文
相关推荐
用dac0832产生正弦波的设计微机论文
利用DAC0832产生正弦波的方法要利用DAC0832产生正弦波,首先需要准备一组正弦波数据,并将其按照一定的时间间隔依次送入DAC0832进行转换。具体步骤如下:1.
单片微机系统中测量数据的处理技术 (1990年)
这些处理方法,包括实时自检、自校、自消漂移和数字排扰技术,都是单片微机系统在实时自动测量领域中的重要技术手段。
MEMS陀螺随机漂移在线补偿技术
**建模方法:**- **自回归滑动平均模型(ARMA)**:这是一种常用的时间序列分析方法,用于描述随机漂移的统计特性。通过收集一定量的历史数据,可以构建一个ARMA模型来模拟随机漂移的行为。
关于电力系统微机继电保护事故处理方法探讨.pdf
微机继电保护是基于计算机技术、电子技术、通信技术和自动化技术的结合,用于检测电力系统的异常状态,及时执行保护动作,防止故障扩大。本文主要探讨了微机继电保护事故的处理方法。
MIMU系统设计及MEMS陀螺仪温度漂移补偿.pdf
该方法能够通过已知的测量数据点,构造一个多项式函数,使得该函数在这些数据点上的值与已知值相等。


VB基础类
