算法精度
算法精度技术资料下载专区，收录500份相关技术文档、开发源码、电路图纸等优质工程师资源，全部免费下载。
资源总数
500
算法精度 全部资料 500 份
N的阶乘计算-高精度乘法,每个数据单元存4位,每次计算4位而非一位,比一般一位为单元的高精度算法约快4倍
N的阶乘计算-高精度乘法,每个数据单元存4位,每次计算4位而非一位,比一般一位为单元的高精度算法约快4倍
2014-01-07
115
计算电压基准的温度系数(tempco)和初始精度
电压基准(VREF)的主要目标是设立系统精度。例如，模/数转换器(ADC)根据基准电压设置其满量程输入电平。下文讨论了如何在初始精度和温度系数(tempco)之间进行折中，在保证满足系统精度的前提下拓
2024-05-17
9