代码搜索:精度提升
找到约 3,114 项符合「精度提升」的源代码
代码结果 3,114
www.eeworm.com/read/131795/14126762
dat funtc101.dat
函数名称: ceil
函数原型: double ceil(double num)
函数功能: 得到不小于num的最小整数
函数返回: 用双精度表示的最小整数
函数说明: num 实数
所属文件:
www.eeworm.com/read/131795/14129153
dat asslandat74.dat
双精度数左移指令 SHLD
格式: SHLD OPD,OPS,n(n表示一个常数)
----
功能: 指令左移OPD,移位的次数由n确定,移入OPD右边的各位由OPS提供,这里要求OPD和OPS类型相同,OPD移出的位进入 ---- CF.
www.eeworm.com/read/131795/14129300
dat asslandat75.dat
双精度数右移指令 SHRD
格式: SHRD OPD,OPS,n(n表示一个常数)
----
功能: 指令右移OPD,移位的次数由n确定,移入OPD左边的各位由OPS提供,这里要求OPD和OPS类型相同,OPD移出的位进入 ---- CF.
www.eeworm.com/read/120853/14786044
dat asslandat74.dat
双精度数左移指令 SHLD
指令格式: SHLD OPD,OPS,n(n表示一个常数)
指令功能: 指令左移OPD,移位的次数由n确定,移入OPD右边的各位由OPS提供,这里要求OPD和OPS类型相同,OPD移出的位进入CF.
www.eeworm.com/read/120853/14786102
dat asslandat75.dat
双精度数右移指令 SHRD
指令格式: SHRD OPD,OPS,n(n表示一个常数)
指令功能: 指令右移OPD,移位的次数由n确定,移入OPD左边的各位由OPS提供,这里要求OPD和OPS类型相同,OPD移出的位进入CF.
www.eeworm.com/read/189019/8496602
m ex0506.m
%例5-6 浮点数的精度
format long
eps(5)
eps(50)
eps(single(5))
www.eeworm.com/read/189019/8496614
m ex0508.m
%例5-8 无穷量和非数值量
x=1/0
y=exp(1000)
z=log(0)
v=Inf
a=0/0
b=NaN
c=NaN('single') %创建单精度浮点类型的非数值量
m=7i/0
a==b
www.eeworm.com/read/429840/8786593
m examp3_33.m
f=inline('cos(15*x)','x');
tic, S=quadl(f,0,3*pi/2,1e-15), toc
S1=quad(f,0,3*pi/2) % 采用默认精度
S1=quad(f,0,3*pi/2,1e-15)
www.eeworm.com/read/426535/9014846
m ex0506.m
%例5-6 浮点数的精度
format long
eps(5)
eps(50)
eps(single(5))
www.eeworm.com/read/426535/9014859
m ex0508.m
%例5-8 无穷量和非数值量
x=1/0
y=exp(1000)
z=log(0)
v=Inf
a=0/0
b=NaN
c=NaN('single') %创建单精度浮点类型的非数值量
m=7i/0
a==b