神经网络在R语言 实现

haviet

ti<-proc.time()
BP_one_output<-function(input,output,m,fth,sth,w,v){
+ W& ^7 e% g6 H) Q        x<-input;#7*8
        y<-output;#8*1，y为向量，每一元素为一个样本输出值
/ J/ Q' p  C: p9 L, q) ?; c5 @  {        theta<-fth;#11*1
        gama<-sth;#标量
        if(m!=length(theta)) print("阈值长度错误！")
        x<-rbind(x,t(rep(-1,ncol(x))));#8*8导致x的最后一列为阈值theta的权重
6 Z6 w& c2 A8 s, F        K<-nrow(x);#8一组样本的维数
5 d( O" b1 p2 {0 ]/ c5 U/ Q& Y        J<-ncol(x);#8一共有多少组样本
        w<-rbind(w,t(theta));#由7*11变为8*11
        v<-c(v,gama);#由11变为12，但请记住：在隐含层增加一个值为-1的节点，但与输入层并未连接
#定义函数f
        f<-function(h) 1/(1+exp(-h));
        epsilon<-alpha<-0.5;
; B8 g! B. \) h, m+ g2 [        N<-0;#重复学习次数的计数
        ei<-as.numeric();#记录每次迭代的平均残差平方和
7 R% l/ ~$ W9 Z        FW<-1;
0 r; ]8 D2 g  L        while((FW/J)>=0.001){
                Z1<-t(w)%*%x;#11*8矩阵，每一列为一组样本
- e, K/ A7 G8 R3 P0 ~4 l" U                Y1<-apply(Z1,c(1,2),f);#11*8矩阵，每一列为一组样本在隐含层的值, a matrix 1 indicates rows,
" _1 \' C4 E% t9 s  J' z5 u8 T                                                                                        #2 indicates columns, c(1, 2) indicates rows and columns
) [0 C) p$ k$ J. V% z6 Q                Z2<-t(v)%*%rbind(Y1,t(rep(-1,ncol(Y1))));#8*1向量，每个元素为隐含层对输出层的加权值
  D, l% z5 D8 k4 x/ V! b6 O3 @                D<-f(Z2);#向量，每一元素为一组样本的一个输出值
7 _. l; {9 r1 d+ R                b<-y-D;
* B: B) K0 Q/ O6 V# }' Y. {                #J组样本的学习
                #向量，输出层对隐含层的权值的偏导
, ]5 c( O: o: T; J                FW<-pFW2<-pFW2t_1<-0;
                pFW1t_1<-matrix(0,nrow(w),ncol(w));#矩阵，隐含层对输入层权值的偏导
                for(t in 1:J){
                        B3<-b[t];
                        FW<-FW+B3*B3;#标量
                        B2<-f(Z2[t])*(1-f(Z2[t]))*B3;#标量
                        pFW2<--2*c(Y1[,t],-1)*B2;#12*1向量隐含层对输出层的权重偏导,此时多了一个阈值项
                        if(t==1) v<-v-0.5*epsilon*pFW2
                        else{
. V4 N+ C* M* N5 ?4 \6 U                                v<-v-0.5*epsilon*pFW2+alpha*(-0.5*epsilon*pFW2t_1);
                                pFW2t_1<-pFW2;
0 V% E  k3 i, _3 G% H9 q                        }
; t7 D# i  s$ H' u5 D                        B1<-diag(f(Z1[,t])*(1-f(Z1[,t])))%*%v[1length(v)-1)]*B2;#11*1隐含层多出来的一个节点即阈值节点并未与输入层相连
                        pFW1<--2*x[,t]%*%t(B1)#8*11输入层对隐含层的权重偏导
                        if(t==1) w<-w-0.5*epsilon*pFW1
                        else{
                                w<-w-0.5*epsilon*pFW1+alpha*(-0.5*epsilon*pFW1t_1);
                                pFW1t_1<-pFW1;
6 S% s1 L. d& G3 ~7 B- t                        }
/ r7 I3 T3 ?% ?: i8 r                }
* K) M7 a' }1 |+ U                N<-N+1;
                ei[N]<-FW/J;
        }
4 A) ~8 R! F7 D' _        theta<-w[nrow(w),];#隐含层阈值
        gama<-v[length(v)];#输出层阈值
        w<-w[1nrow(w)-1),];#输入层对隐含层的权重
        v<-v[1length(v)-1)];#隐含层对输出层的权重
1 N7 C- S+ C/ L( S. }        list(theta,gama,w,v,N,FW/J,ei)
}
" ^! E- g/ k* a1 c# v4 tx<-cbind(x1,x2,x3,x4,x5,x6,x7);
x<-t(x);
. M9 T6 V! y% c2 v9 n5 Q* }hidden_threshold<-runif(11);
" r: `6 Y+ [3 M+ w! p1 ?2 ^output_threshold<-runif(1);
w<-matrix(runif(77),7,11);
% v& r9 p: v6 R/ U' Wv<-runif(11);
; y8 y' m  D; S  Y7 L; B" e3 Jresult<-BP_one_output(x,y,11,hidden_threshold,output_threshold,w,v);
  _; R& X  L' _% M5 @#输出
cat("\n");
1 P; ]6 b' p- [9 H- D  [" Hcat("隐含层阈值theta","\n",result[[1]],"\n");
cat("输出层阈值gama","\n",result[[2]],"\n");
  z1 R9 J+ g7 i3 B9 mw<-as.matrix(result[[3]],7,11);
6 G, b9 R$ d$ m" P5 ]cat("输入层对隐含层的权重w","\n");
w;
cat("\n");
+ D7 u+ R- ^+ z. Jcat("隐含层对输出层的权重v","\n",result[[4]],"\n");
7 @1 |% @8 Z, d# d/ w. Wcat("迭代次数N" ,"\n",result[[5]],"\n");
cat("学习误差FW","\n",result[[6]],"\n");
- @1 m$ w- w* C- {  W8 m+ J! Scat("每次迭代的误差","\n");
plot(result[[7]],type="l",ylab="每次学习误差",xlab="反复学习的次数");
proc.time()-ti
; }* |- _+ p4 i0 U7 g, ^$ Q& c

兰竹李乐

这牛逼的你自己编的吗

凌chers

能不能解释一下呢？

黄窗帘

就看看，不说话。

Esmtih

运行不了啊？

廷植斌_972

支持~~顶顶~~~