实验数据处理过程中有效数字的合理保留

(整期优先)网络出版时间:2003-03-13
/ 1
在对实验数据进行线性回归分析时,相关系数r的计算结果会随数据小效位数的取舍而变化,表现出较大的涨落性.本文通过对比分析提出,计算过程中应尽量保留中间量的小数位数,避免不当的简化计算,以保证结果的准确性.