误差比对

误差比对技术资料下载专区,收录500份相关技术文档、开发源码、电路图纸等优质工程师资源,全部免费下载。

资源总数
500

误差比对 热门资料

查看全部 500 份 →

分析给出浮点、定点的基本运算舍入误差问题,以及在基本变换、线性方程组、稀疏矩阵还有不断试错,快速迭代过程中必须注意避免的舍入误差问题。

2018-11-23 1 误差比对