代码搜索:精度可调
找到约 3,652 项符合「精度可调」的源代码
代码结果 3,652
www.eeworm.com/read/340908/12125520
c adc0_temp_pro.c
//内部温度传感器调试程序//
//利用过采样实现16位精度//
//ADC0_TEMP_PRO.c
#include
#define ADC0START temppage=SFRPAGE;SFRPAGE=0x00;AD0BUSY=1;SFRPAGE=temppage
#define STACK_LEN 128
//采样128次,再将128个数据总和除以8
www.eeworm.com/read/340908/12125530
c adc0_temp_pro.c
//内部温度传感器调试程序//
//利用过采样实现16位精度//
//ADC0_TEMP_PRO.c
#include
#define ADC0START temppage=SFRPAGE;SFRPAGE=0x00;AD0BUSY=1;SFRPAGE=temppage
#define STACK_LEN 128
//采样128次,再将128个数据总和除以8
www.eeworm.com/read/340077/12182983
c main.c
/*Main.c*/
/*AD采样基本程序,并带有排队滤波函数
采样结果的精度与稳定性与基准源和信号源有关
请在项目开发的时候选择稳定的电压基准源*/
#include "global.c"
void SystemInit();
void Timer1Init();
void KickDog();
void SPI_Init();
void DA_OUT(un
www.eeworm.com/read/151608/12189017
m exm0531_3.m
%exm0531_3.m
%指令eig与eigs的比较。
rand('state',1),A=rand(100,100)-0.5;
t0=clock;[V,D]=eig(A);T_full=etime(clock,t0) %指令eig的运作时间。
options.tol=1e-8; %为eigs设定计算精度。
options.disp=0; %使中间迭
www.eeworm.com/read/151429/12211453
c main.c
/*Main.c*/
/*AD采样基本程序,并带有排队滤波函数
采样结果的精度与稳定性与基准源和信号源有关
请在项目开发的时候选择稳定的电压基准源*/
#include "global.c"
void SystemInit();
void Timer1Init();
void KickDog();
void SPI_Init();
void DA_OUT(un
www.eeworm.com/read/339239/12247810
m exm040811_1.m
syms x;IS=int('exp(-x*x)','x',0,1) %求解析积分
vpa(IS) %求所得解析积分的32位精度近似值
fun=inline('exp(-x.*x)','x'); %注意:数组乘符号.*的采用是必须的。
Isim=quad(fun,0,1),IL=quadl(fun,0,1)
Ig=gauss10(fun,0,1)
www.eeworm.com/read/339239/12247986
m exm04031_3.m
rand('state',1),A=rand(100,100)-0.5;
t0=clock;[V,D]=eig(A);T_full=etime(clock,t0)%指令eig的运作时间。
options.tol=1e-8; %为eigs设定计算精度。
options.disp=0; %使中间迭代结果不显示。
t0=clock;[v,d]=eigs(A,1,'lr',optio
www.eeworm.com/read/252891/12259721
java arith.java
import java.math.BigDecimal;
/**
* 由于Java的简单类型不能够精确的对浮点数进行运算,这个工具类提供精确的浮点数运算,包括加减乘除和四舍五入。
*/
public class Arith {
// 默认除法运算精度
private static final int DEF_DIV_SCALE = 10;
// 这个类不能实例化
www.eeworm.com/read/252582/12274534
m gaosisaideer.m
function [x, k, index]=gaosisaideer(A, b, ep, it_max)
% 求解线性方程组的Gauss-Seidel迭代法,其中
% A --- 方程组的系数矩阵
% b --- 方程组的右端项
% ep --- 精度要求。省缺为1e-5
% it_max --- 最大迭代次数,省缺为100
% x --- 方程组的解
%
www.eeworm.com/read/252582/12274536
m jacobidiedaifa.m
function [x, k, index]=Jacobidiedaifa(A, b, ep, it_max)
% 求解线性方程组的Jacobi迭代法,其中
% A --- 方程组的系数矩阵
% b --- 方程组的右端项
% ep --- 精度要求。省缺为1e-5
% it_max --- 最大迭代次数,省缺为100
% x --- 方程组的解
% k --