bp.m

基本遗传算法,RBF神经网络算法,BP神经网络算法,一共5个源代码.程序可移植性强.

function main()
%%用于函数逼近的BP算法程序
tic,
SamNum=100;  %训练样本数
TestSamNum=101;  %测试样本数
HiddenUnitNum=10;  %隐节点数
InDim=1;  %输入样本维数
OutDim=1;  %输出维数
 
%根据样本目标函数获得样本输入/输出
rand('state',sum(100*clock))  %产生均匀分布的随机矩阵，元素0.0－1.0
NoiseVar=0.1;
Noise=NoiseVar*randn(1,SamNum);  %产生正态分布的随机矩阵
SamIn=8*rand(1,SamNum)-4; %1*100
SamOutNoise=1.1*(1-SamIn+2*SamIn.^2).*exp(-SamIn.^2/2);
SamOut=SamOutNoise+Noise;

TestSamIn=-4:0.08:4;
TestSamOut=1.1*(1-TestSamIn+2*TestSamIn.^2).*exp(-TestSamIn.^2/2);

figure
hold on
grid
plot(SamIn,SamOut,'r+')
plot(TestSamIn,TestSamOut,'g--')
xlabel('Inputx');
ylabel('Outputy');

MaxEpochs=20000;  %最大训练次数
lr=0.003;  %学习率
E0=0.3;  %目标误差

W1=0.2*rand(HiddenUnitNum,InDim)-0.1;  %输入层到隐层的初始权值10*1
B1=0.2*rand(HiddenUnitNum,1)-0.1;  %隐节点的初始阈值10*1
W2=0.2*rand(OutDim,HiddenUnitNum)-0.1;  %隐层到输出层的初始权值1*10
B2=0.2*rand(OutDim,1)-0.1;  %输出层初始阈值1*1

W1Ex=[W1 B1];  %输入层到隐层的初始权值扩展10*2
W2Ex=[W2 B2];  %隐层到输出层的初始权值扩展1*11

SamInEx=[SamIn' ones(SamNum,1)]';  %输入样本扩展，ones可产生全1矩阵2*100
ErrHistory=[];   %记录权值调整后的训练误差
for i=1:MaxEpochs
    %正向计算网络各层输出
    HiddenOut=logsig(W1Ex*SamInEx);%10*2*2*100=10*100,logsig(n) = 1 / (1 + exp(-n))
    HiddenOutEx=[HiddenOut' ones(SamNum,1)]'; %'表示转置 100*11'=11*100
    NetworkOut=W2Ex*HiddenOutEx; %1*11*11*100=1*100
    
    %判断训练是否停止
    Error=SamOut-NetworkOut;%1*100
    SSE=sumsqr(Error);
    
    %记录每次权值调整后的训练误差
    ErrHistory=[ErrHistory SSE];
    
    if SSE<E0,break,end 

%计算反向传播误差
    Delta2=Error;%1*100
    Delta1=W2'*Delta2.*HiddenOut.*(1-HiddenOut);%1*10'*1*100=10*100
    
    %计算权值调整
    dW2Ex=Delta2*HiddenOutEx';%18100*100*11=1*11
    dW1Ex=Delta1*SamInEx';%10*100*100*2=10*2
    
    %权值调整
    W1Ex=W1Ex+lr*dW1Ex;
    W2Ex=W2Ex+lr*dW2Ex;
 
   
    %分离隐层到输出层的权值
    W2=W2Ex(:,1:HiddenUnitNum); %取W2Ex的所有行，从1到HiddenUnitNum列
end
%显示计算结果
i
W1=W1Ex(:,1:InDim)
B1=W1Ex(:,InDim+1)  %取W1Ex的所有行，第InDim+1列
W2
B2=W2Ex(:,1+HiddenUnitNum);

%测试
TestHiddenOut=logsig(W1*TestSamIn+repmat(B1,1,TestSamNum));
TestNNOut=W2*TestHiddenOut+repmat(B2,1,TestSamNum);
plot(TestSamIn,TestNNOut,'b--')

%绘制学习误差曲线
figure
hold on
grid
[xx,Num]=size(ErrHistory);
plot(1:Num,ErrHistory,'k-');
toc