lm.m

采用贝叶斯正则化算法提高bp网络的性能

%采用贝叶斯正则化算法提高bp网络的性能，即L-M优化算法
close all
clear
echo on
%NEWFF生成一个新的前向神经网络
%TRAIN对BP神经网络进行训练
%sim对bp神经网络进行仿真
%定义训练样本
%P为输入矢量
P=[-1:0.05:1]
randn('seed',78341223);
T=sin(2*pi*P)+0.1*randn(size(P));%T为目标矢量
%绘制样本数据点
plot(P,T,'+');
echo off 
hold on
plot(P,sin(2*pi*P),':');%绘制不含噪声的正弦曲线
echo on
net=newff(minmax(P),[20,1],{'tansig','purelin'});%隐含层的神经元个数是20个，
%输出层神经元是1个；purelin表示输出层转换函数是线性函数
echo off
disp('1.L-M优化算法TRAINLM');
disp('2.贝叶斯正则化算法TRAINBP');
choice=input('请选择训练算法(1,2):');
figure(gcf);
if(choice==1)
    echo on 
    clc
    %采用L-M优化算法TRAINLM
    net.trainFcn='trainlm';
    clc
    %设置训练参数
    net.trainParam.epochs=500;
    net.trainParam.goal=1e-6;
    net=init(net);%重新初始化
elseif(choice==2)
    echo on
    %采用贝叶斯正则化算法TRATINBR
    net.trainFcn='trainbr';
    net.trainParam.epochs=500;
    randn('seed',192736547);%采取随机数
    net=init(net);%重新初始化
end
%调用相应算法训练BP网络
[net,tr]=train(net,P,T);
%计算仿真误差
A=sim(net,P);
E=T-A;
MSE=mse(E)%计算均方误差
close all
%绘制匹配结果曲线
plot(P,A,P,T,'+',P,sin(2*pi*P),':');
echo off