精度

精度是表示观测值与真值的接近程度。每一种物理量要用数值表示时,必须先要制定一种标准,并选定一种单位(unit)。这种标准的制定,通常是根据人们对于所要测量的物理量的认识与了解,并且要考虑这标准是否容易复制,或测量的过程是否容易操作等实际问题。

资源总数
500

精度 热门资料

查看全部 500 份 →

采用高稳定性运算放大器与激光修调技术,实现0.1%级别的电压精度和低温度漂移特性。适用于高精度测量与校准系统,支持多种封装形式,满足工业级应用需求。

2026-01-18 1 精度

显示控制折线统计图精度,控制折现图上数据实时更新,一般折现图上数据显示小数点后一位或两位,这个可以自定义哦

2021-09-16 精度

客户在基于cortex-m3 的平台上使用FreeRTOS 系统提供的定时器功能时,意外发现定时器的精确度不够高。譬如,设置1 秒钟的定时器,理论上1 秒超时,并且执行相应的回调函数。但是调试却发现,有时回调函数是在1.4 秒后被执行!这对...

2022-02-22 9 精度