神经网络在R语言 实现

haviet

ti<-proc.time()
BP_one_output<-function(input,output,m,fth,sth,w,v){
        x<-input;#7*8
# K4 w0 {6 f( j        y<-output;#8*1，y为向量，每一元素为一个样本输出值
        theta<-fth;#11*1
        gama<-sth;#标量
        if(m!=length(theta)) print("阈值长度错误！")
& l' H! I7 {% E- `2 }- W        x<-rbind(x,t(rep(-1,ncol(x))));#8*8导致x的最后一列为阈值theta的权重
2 u0 A3 S+ V: l        K<-nrow(x);#8一组样本的维数
$ N; i- J6 a& ?4 x7 F/ s) Y        J<-ncol(x);#8一共有多少组样本
4 Y+ H& I/ k6 K- E, J4 X' d        w<-rbind(w,t(theta));#由7*11变为8*11
" s: ]6 Q9 I( A        v<-c(v,gama);#由11变为12，但请记住：在隐含层增加一个值为-1的节点，但与输入层并未连接
& w; c) _" f6 N6 d3 c#定义函数f
        f<-function(h) 1/(1+exp(-h));
        epsilon<-alpha<-0.5;
        N<-0;#重复学习次数的计数
        ei<-as.numeric();#记录每次迭代的平均残差平方和
3 e; u" O, A. a2 T; W        FW<-1;
        while((FW/J)>=0.001){
! e. _# W. t/ v, P; B- i                Z1<-t(w)%*%x;#11*8矩阵，每一列为一组样本
& ]! A; @. U3 _                Y1<-apply(Z1,c(1,2),f);#11*8矩阵，每一列为一组样本在隐含层的值, a matrix 1 indicates rows,
                                                                                        #2 indicates columns, c(1, 2) indicates rows and columns
/ L0 @' z: Y2 z$ k  \8 @% p) F                Z2<-t(v)%*%rbind(Y1,t(rep(-1,ncol(Y1))));#8*1向量，每个元素为隐含层对输出层的加权值
                D<-f(Z2);#向量，每一元素为一组样本的一个输出值
4 A' L$ p+ ]7 s* z- X$ ]* q# ?) f                b<-y-D;
7 K, d8 Z# i5 R& _* t" C1 w4 B* t                #J组样本的学习
                #向量，输出层对隐含层的权值的偏导
                FW<-pFW2<-pFW2t_1<-0;
                pFW1t_1<-matrix(0,nrow(w),ncol(w));#矩阵，隐含层对输入层权值的偏导
2 K- |% T4 O" t  l# q                for(t in 1:J){
& w7 M6 Y% W! ^& w" @8 \2 w3 O                        B3<-b[t];
4 A8 M, ]  c6 X! k! J                        FW<-FW+B3*B3;#标量
                        B2<-f(Z2[t])*(1-f(Z2[t]))*B3;#标量
3 Z* k8 j  M& n. a+ a                        pFW2<--2*c(Y1[,t],-1)*B2;#12*1向量隐含层对输出层的权重偏导,此时多了一个阈值项
1 g3 C! e0 F& T& ?3 r6 q                        if(t==1) v<-v-0.5*epsilon*pFW2
                        else{
7 F! Y4 y  C! A$ v% Q9 x6 }                                v<-v-0.5*epsilon*pFW2+alpha*(-0.5*epsilon*pFW2t_1);
                                pFW2t_1<-pFW2;
* D2 Z6 U8 Y$ m" ^. F! W5 j) M                        }
                        B1<-diag(f(Z1[,t])*(1-f(Z1[,t])))%*%v[1length(v)-1)]*B2;#11*1隐含层多出来的一个节点即阈值节点并未与输入层相连
                        pFW1<--2*x[,t]%*%t(B1)#8*11输入层对隐含层的权重偏导
; m/ ]7 t, G( c# E* k5 a                        if(t==1) w<-w-0.5*epsilon*pFW1
                        else{
                                w<-w-0.5*epsilon*pFW1+alpha*(-0.5*epsilon*pFW1t_1);
                                pFW1t_1<-pFW1;
& K2 H9 g: n+ @                        }
                }
                N<-N+1;
1 X* U* b. d( U9 p- Z! j/ q                ei[N]<-FW/J;
        }
0 T. j7 j% Q; @4 t% }+ i- z3 q        theta<-w[nrow(w),];#隐含层阈值
        gama<-v[length(v)];#输出层阈值
3 c: Y6 M7 m, l1 x* Q( U3 R        w<-w[1nrow(w)-1),];#输入层对隐含层的权重
  h0 C3 n- ~, d        v<-v[1length(v)-1)];#隐含层对输出层的权重
0 s' g+ F. x0 G/ d, R3 G        list(theta,gama,w,v,N,FW/J,ei)
1 }, z, V, M6 W3 h}
6 q' c, i* P. R, M6 d2 i0 Ax<-cbind(x1,x2,x3,x4,x5,x6,x7);
x<-t(x);
hidden_threshold<-runif(11);
! |4 O! d. n! T1 _1 f1 _" Doutput_threshold<-runif(1);
w<-matrix(runif(77),7,11);
# y$ D, g, ]$ X* ~2 _( r5 I( X9 Lv<-runif(11);
result<-BP_one_output(x,y,11,hidden_threshold,output_threshold,w,v);
#输出
cat("\n");
cat("隐含层阈值theta","\n",result[[1]],"\n");
cat("输出层阈值gama","\n",result[[2]],"\n");
w<-as.matrix(result[[3]],7,11);
cat("输入层对隐含层的权重w","\n");
, K, a- X6 ^+ v, Nw;
cat("\n");
' v4 E, s$ v, G- k5 Wcat("隐含层对输出层的权重v","\n",result[[4]],"\n");
: G3 |7 [  ^$ t* j! p, M, Lcat("迭代次数N" ,"\n",result[[5]],"\n");
cat("学习误差FW","\n",result[[6]],"\n");
: {( r' `2 S3 N8 S/ w+ ?cat("每次迭代的误差","\n");
plot(result[[7]],type="l",ylab="每次学习误差",xlab="反复学习的次数");
, w2 c+ N+ U2 h9 \+ Lproc.time()-ti

廷植斌_972

支持~~顶顶~~~

Esmtih

运行不了啊？

黄窗帘

就看看，不说话。

凌chers

能不能解释一下呢？

兰竹李乐

这牛逼的你自己编的吗