精度

精度是表示观测值与真值的接近程度。每一种物理量要用数值表示时,必须先要制定一种标准,并选定一种单位(unit)。这种标准的制定,通常是根据人们对于所要测量的物理量的认识与了解,并且要考虑这标准是否容易复制,或测量的过程是否容易操作等实际问题。

资源总数
500

精度 热门资料

查看全部 500 份 →

软件A/D所能实现的精度有限,测量电压范围是2-15V, 而且速度低(约1KHz),但仅用一个电容和一个电阻的诱惑 力,我想大虾您会笑纳的。用于某些场合是有用的。

2015-09-09 38 精度

自己写的高精度紧致差分格式,包括 Pade格式(FST) 二阶精度中心格式(SLW) 二阶精度迎风格式(MXD) 宽网格基二阶精度中心格式(SLW) 五阶精度迎风紧致格式(MXD) 写成C++类,使用VC6.0环境,计算数据文件可...

2015-09-10 132 精度