精度计算

精度计算技术资料下载专区,收录500份相关技术文档、开发源码、电路图纸等优质工程师资源,全部免费下载。

资源总数
500

精度计算 全部资料 500 份

设计了一种液晶型高精度采集仪表。该仪表采用24位高精度串行刀D转换器CS55犯,极大地提高了数据采集的精度,简便的三线串行输出模式节省了单片机的接口资源。选用WGM12864液晶显示模块,实现了实时显

2024-02-23 4 精度计算

提供一组80C196单片机高精度浮点运算及数制转换子程序.阶码采用1字节移码,尾数采用双字节原码,精度为91/2位十进制数据.在16MHz时钟下,32位精度乘法及28位精度除法均不超过40μs,32位精度除法不超过80μs.程序有四舍五入功...

2025-01-05 4 精度计算