代码搜索：高精度处理
找到约 10,000 项符合「高精度处理」的源代码
代码结果 10,000
www.eeworm.com/read/143612/12856684
txt 高精度子程序库.txt
FQ51.ASM浮点运算子程序库为三字节浮点运算，精度在万分之一左右，运算速
度也比较快，基本上可以满足需要。在某些需要进行复杂数据处理的场合，由于多
次调用超越函数（指数函数、对数函数、三角函数等），精度将明显下降，不一定
能满足系统的要求。为了满足这些场合的需要，笔者开发了一个高精度浮点运算子
程序库，采用四字节浮点数，从而使运算精度达到如下指标：单次二进制浮点算术
运算的精 ...
www.eeworm.com/read/4317/30186
pdf 高精度压力应变计.pdf
www.eeworm.com/read/23213/842154