测距精度（rangeaccuracy）是2005年公布的航天科学技术名词。
在详细论述、对比了实现数控机床滚珠丝杠螺距误差补偿的硬件、软件方法的原理基础上，对滚珠 丝杠螺距误差软件补偿法可有效提高数控机床的定位精度进行了试验验证。
测量精度和可靠性是仪器的重要指标，引入数据处理算法后，使许多原来靠硬件电路难以实现的信号处理问题得以解决，从而克服和弥补了包括传感器在内的各个测量环节中硬件本身的缺陷或弱点，提高了仪器的综合性能
温度的测量在工业领域最为常见，随着电子技术、计算机技术的飞速发展，对现场温度的测量也由过去的模拟刻度温度计、指针温度计向数字显示的智能温度计发展，而且，对测量的精度要求也越来越高。目前，尽管市场上也有高精度的温度测量仪，但一般价格都很昂贵。...
· 摘要： 设计并实现了一种基于DSP芯片的高精度的电量测量系统,主要包括模数(A/D)转换电路和DSP处理器部分.本系统利用加Blackman-harris窗插值修正快速傅立叶变换(FFT)对异步顺序采样来的信号进行...
一种用于绝缘在线监测的穿心式高精度微电流传感器。通过电子电路对激磁电流的跟踪和自动补偿，使传感器近似工作在“零磁通”状态。对传感器的性能测试表明，补偿收到了良好效果，角差稳定在:24;分以内，比差小于
采用AD7794，一种典型的仪用ADC，与超低功耗混合信号处理器MSP430F1611，构成了一个测量计量电路。实际使用表明，该电路具有低功耗、高精度和长期稳定性的特点；实测非线性度不大于10
温度的测量在工业领域最为常见，随着电子技术、计算机技术的飞速发展，对现场温度的测量也由过去的模拟刻度温度计、指针温度计向数字显示的智能温度计发展，而且，对测量的精度要求也越来越高。目前，尽管市场上也有高精度的温度测量仪，但一般价格都很昂贵。...