舍入误差技术资料

资源总数：10000

舍入误差热门资料

查看全部10000个资源 »

分析给出浮点、定点的基本运算舍入误差问题，以及在基本变换、线性方程组、稀疏矩阵还有不断试错，快速迭代过程中必须注意避免的舍入误差问题。 ...

1 次下载

求解误差，并保存到小数点后12位，这是亮点。另外，可以求出运算次数...

84 次下载
舍入误差资料分类
热门资料 查看最受欢迎的资源 全部资料 10000 个资源