代码搜索：精度可调
找到约 3,652 项符合「精度可调」的源代码
代码结果 3,652
www.eeworm.com/read/268073/11155335
txt readme.txt
这四个程序分别为高斯消去法、列主元消去法、全主元消去法解线性方程组和Gauss-Jordan消元法求矩阵的逆。
程序采用MATLAB语言开发，并在MATLAB6.5下测试通过。
由于MATLAB在计算精度上采取了一定的措施，因此当矩阵的主对角元素很小时，MATLAB程序可能和C程序的返回结果不一致，也可能返回正确的解。这是由于MATLAB的计算精度与C语言不一样而导致。
程序 ...
www.eeworm.com/read/148047/12498112
asm ds18b20_modify.asm
;用DP-51+ 来读DS18B20单总线温度传感器
;进行温度显示,显示范围00到99度,显示精度为1度
;因为12位转化时每一位的精度为0.0625度,我们不要求显示小数所以可以抛弃29H的低4位, 16(FFFFH)x0.00625=1度
;将28H中的低4位移入29H中的高4位,这样获得一个新字节,这个字节就是实际测量获得的温度,非常简洁无需乘于0.0625系数
; ...
www.eeworm.com/read/148047/12498114
asm ds18b20_web.asm
;用DP-51+ 来读DS18B20单总线温度传感器
;进行温度显示,显示范围00到99度,显示精度为1度
;因为12位转化时每一位的精度为0.0625度,我们不要求显示小数所以可以抛弃29H的低4位, 16(FFFFH)x0.00625=1度
;将28H中的低4位移入29H中的高4位,这样获得一个新字节,这个字节就是实际测量获得的温度,非常简洁无需乘于0.0625系数
; ...
www.eeworm.com/read/101790/15810697
htm subject_52273.htm
序号：52273 发表者：俊俊 发表日期：2003-09-09 16:49:37
主题：一个数据精度问题！
内容：现在有一个float值，比如说float x=12.33,我想把小数点后第一位和第二位的值取出来，用的是(int)(x*10)%10和(int)(x*100)%10分别赋给int型的值,发现得到小数点后第一位的值是对的，第二位的值却是2，好像差在精度上！不
www.eeworm.com/read/391291/8411478
c sd2001.c
高精度实时时钟－SD2001驱动程序
/*------------------------------------------------------------------------------------------
[文件名] Sd.c
[功能] 对sd2001时钟进行时实读写，并对其内部的ram进行操作
[版本] 1.4b
[作者] 鞠春阳
[最后修改时间] 2003年5月
www.eeworm.com/read/386257/8759138
m combinetraprl.m
function [I,step] = CombineTraprl(f,a,b,eps)
%f 被积函数
%a,b 积分上下限
%eps 精度
%I 积分结果
%step 积分的子区间数
if(nargin ==3)
eps=1.0e-4;
end
n=1;
h=(b-a)/2;
I1=0;
I2=(subs(sym(f),findsym(sym
www.eeworm.com/read/184977/9062074
h chap5.h
#include
#include
#include
#include
int const max_step=100; //定义一个常数，代表最大循环步长
//在本次程序能达到的显示精度之下，100作为最大循环步长已经完全足够了！
class
www.eeworm.com/read/377058/9296096
cpp zhengtaifenweishu.cpp
#include
#include
#include
double pnorm(double q) //公式精度：最大相对误差1.2*e-8 q:上侧概率 返回值：分位数
{double u,p,y;
if(q==0.5) return 0.0;
p=(q0.99
www.eeworm.com/read/365698/9850951
m combinetraprl.m
function [I,step] = CombineTraprl(f,a,b,eps)
%f 被积函数
%a,b 积分上下限
%eps 精度
%I 积分结果
%step 积分的子区间数
if(nargin ==3)
eps=1.0e-4;
end
n=1;
h=(b-a)/2;
I1=0;
I2=(subs(sym(f),findsym(sym
www.eeworm.com/read/277808/10603368
m de.m
function [Pb,trace]=DE
D=30;%维数
NP=25;%NP为种群规模----
F=0.5;%交叉因子
CR=0.1;%交叉概率
eps=1e-9;%精度
gen_max=800;%最大进化代数
trace=zeros(gen_max,2);
bounds=100*ones(D,2);
bounds(:,1)=-1*bounds(:,1);
rng=(bo