精度

精度是表示观测值与真值的接近程度。每一种物理量要用数值表示时,必须先要制定一种标准,并选定一种单位(unit)。这种标准的制定,通常是根据人们对于所要测量的物理量的认识与了解,并且要考虑这标准是否容易复制,或测量的过程是否容易操作等实际问题。

资源总数
10,000

精度 热门资料

查看全部 10,000 份 →

特征: 分辨率: 24 位(无失码) 有效位数: 21位( PGA = 128 特征: 分辨率:24位(无失码) 有效位数:21位 输出码率:10Hz/80Hz(可选) 通道固定增益:128倍 对50Hz、60Hz噪声抑制:-100dB 工...

2013-11-19 132 精度

高精度幂,底输入0.0到99.999;幂输入0-25。性能超群。

2013-12-17 26 精度

采用高精度ADC与PID算法结合,实现毫秒级响应与±0.1℃控制精度。支持多种传感器接口与工业级通信协议,适用于精密实验与自动化生产场景。

2026-01-12 2 精度

高精度运算,实现了加减乘除以及求组合数和catalan数

2016-07-27 133 精度