数值精度

数值精度技术资料下载专区,收录500份相关技术文档、开发源码、电路图纸等优质工程师资源,全部免费下载。

资源总数
500

数值精度 全部资料 500 份

TCD141C是日本东芝公司生产的5000位象元二相线阵CCD 器件,由于在工艺中采用了埋层沟道和加速电极结构,其工作频率可 20MHz ,象元及相邻象元中心间距已减小到 7 μm ,实现了高分辨和高

2024-04-29 5 数值精度

由于一个数值问题的精确解往往事先不知道,而用数值方法求出的计算解的误差又是不可避免的。因此,数值解是否失真,如何判断──即误差问题,成为大家所关心的重要而又困难的问题,本章只介绍了误差的基本概念和数值计算的若干原则,这对处理数值计算问题是必...

2014-03-08 69 数值精度