线纹尺计量测量结果的限差——深圳仪器校准中心
a)在同一的测回中,对同一分划间隔的往测与返测值之差不得大于5um;
b)两个测回对同一分划间隔的测量结果之差不得大于5um;
c)当超差的分划间隔检定结果数据的校正处理。
3等线纹尺经过检定后,可求得2 0℃时的尺长修正量△L20,其数学表达式为△L20一△L20+(bo-bi)+[ai (ti-20)- a2(t2-20)]L 式中:△L20——2等线纹尺20℃时的尺长修正量,UM;b0-bi-3等线纹尺测量检定零分划线和被检分划线在显微镜中读数之差,即3等线纹尺相对于2等线纹尺的尺长之差,um;ai及a2——2等线纹尺及3等线纹尺的线膨胀系数,℃-1;t1及t2 -2等线纹尺及3等线纹尺的温度,℃;L-3等仪器外校线纹尺被检间隔的标称长度,m。