GPF错误

GPF错误技术资料下载专区,收录500份相关技术文档、开发源码、电路图纸等优质工程师资源,全部免费下载。

资源总数
500

GPF错误 热门资料

查看全部 500 份 →

极限误差计算方法,常用于工程中计算误差极限中,文中说明了几种极限误差的计算方法

2015-08-16 140 GPF错误

分析给出浮点、定点的基本运算舍入误差问题,以及在基本变换、线性方程组、稀疏矩阵还有不断试错,快速迭代过程中必须注意避免的舍入误差问题。

2018-11-23 1 GPF错误