神经网络在R语言 实现

haviet

ti<-proc.time()
BP_one_output<-function(input,output,m,fth,sth,w,v){
! d& M( h, o& Y( ~        x<-input;#7*8
2 I- {9 W% T4 k; N( q% D3 Z        y<-output;#8*1，y为向量，每一元素为一个样本输出值
        theta<-fth;#11*1
* t+ w' s7 e  ]/ I. G. `: T        gama<-sth;#标量
: m4 R+ P' h6 K2 a5 K, K        if(m!=length(theta)) print("阈值长度错误！")
        x<-rbind(x,t(rep(-1,ncol(x))));#8*8导致x的最后一列为阈值theta的权重
" `; Y. m$ C6 e2 K/ a# l, r        K<-nrow(x);#8一组样本的维数
        J<-ncol(x);#8一共有多少组样本
0 e9 C( j8 ]1 w, S: |; p, n$ C        w<-rbind(w,t(theta));#由7*11变为8*11
1 O1 `- N7 |+ H6 g3 d5 D- T( T        v<-c(v,gama);#由11变为12，但请记住：在隐含层增加一个值为-1的节点，但与输入层并未连接
" o* ?8 X6 O  q) `" w8 h1 u8 p#定义函数f
        f<-function(h) 1/(1+exp(-h));
8 u- _$ N4 c4 _7 K; g; O        epsilon<-alpha<-0.5;
        N<-0;#重复学习次数的计数
. m; ?8 q3 c  H2 v+ \7 k# L        ei<-as.numeric();#记录每次迭代的平均残差平方和
2 e0 F7 d. m3 T  X        FW<-1;
9 v+ A/ u) k2 z+ r- U/ c& q, R, g        while((FW/J)>=0.001){
                Z1<-t(w)%*%x;#11*8矩阵，每一列为一组样本
6 G# s5 c3 G+ h" ?4 V                Y1<-apply(Z1,c(1,2),f);#11*8矩阵，每一列为一组样本在隐含层的值, a matrix 1 indicates rows,
7 @4 [/ R2 ?% E0 z. }( F                                                                                        #2 indicates columns, c(1, 2) indicates rows and columns
; [6 h& {2 _! {' o* H                Z2<-t(v)%*%rbind(Y1,t(rep(-1,ncol(Y1))));#8*1向量，每个元素为隐含层对输出层的加权值
: `' p; c! Z- o# O                D<-f(Z2);#向量，每一元素为一组样本的一个输出值
                b<-y-D;
                #J组样本的学习
                #向量，输出层对隐含层的权值的偏导
                FW<-pFW2<-pFW2t_1<-0;
9 ~9 o7 ?" a4 H6 f                pFW1t_1<-matrix(0,nrow(w),ncol(w));#矩阵，隐含层对输入层权值的偏导
                for(t in 1:J){
                        B3<-b[t];
2 m9 R3 J) E! r/ x' j& ?% z                        FW<-FW+B3*B3;#标量
                        B2<-f(Z2[t])*(1-f(Z2[t]))*B3;#标量
) X$ R8 [" T! T( w! i2 P3 m, @                        pFW2<--2*c(Y1[,t],-1)*B2;#12*1向量隐含层对输出层的权重偏导,此时多了一个阈值项
                        if(t==1) v<-v-0.5*epsilon*pFW2
( z- B5 O' `* ~3 Y6 h/ _3 C7 w) ~                        else{
  Q6 k$ j( \: z% C( ^                                v<-v-0.5*epsilon*pFW2+alpha*(-0.5*epsilon*pFW2t_1);
                                pFW2t_1<-pFW2;
3 |, F1 a) F3 `4 z1 Y" k' V                        }
; Y5 @3 o/ i2 S0 f* F                        B1<-diag(f(Z1[,t])*(1-f(Z1[,t])))%*%v[1length(v)-1)]*B2;#11*1隐含层多出来的一个节点即阈值节点并未与输入层相连
                        pFW1<--2*x[,t]%*%t(B1)#8*11输入层对隐含层的权重偏导
. I1 G  K* }  A4 q                        if(t==1) w<-w-0.5*epsilon*pFW1
                        else{
                                w<-w-0.5*epsilon*pFW1+alpha*(-0.5*epsilon*pFW1t_1);
                                pFW1t_1<-pFW1;
  K' @  R% L3 \  K* }# ~! J! @                        }
7 O6 w" X$ D$ H) Y# M                }
& _3 T' R( j4 u4 B* j" H: @, Z                N<-N+1;
                ei[N]<-FW/J;
        }
" U1 Q9 l- A5 p( a$ u! F        theta<-w[nrow(w),];#隐含层阈值
        gama<-v[length(v)];#输出层阈值
        w<-w[1nrow(w)-1),];#输入层对隐含层的权重
        v<-v[1length(v)-1)];#隐含层对输出层的权重
        list(theta,gama,w,v,N,FW/J,ei)
& }6 \& J. J4 u}
x<-cbind(x1,x2,x3,x4,x5,x6,x7);
x<-t(x);
hidden_threshold<-runif(11);
  Y) A& k6 f, doutput_threshold<-runif(1);
w<-matrix(runif(77),7,11);
+ R7 w% e( e* ~7 N8 _v<-runif(11);
: W8 A2 |6 R/ O8 v) Lresult<-BP_one_output(x,y,11,hidden_threshold,output_threshold,w,v);
- A/ I8 C! C4 k#输出
. c  M5 q  @+ X% @5 S$ V. {cat("\n");
7 z4 P- |3 w; d6 b+ v+ p0 qcat("隐含层阈值theta","\n",result[[1]],"\n");
cat("输出层阈值gama","\n",result[[2]],"\n");
w<-as.matrix(result[[3]],7,11);
1 i9 @# h, L8 R  U% mcat("输入层对隐含层的权重w","\n");
) m* j  o. k  `4 G# K* f; {) Ew;
cat("\n");
cat("隐含层对输出层的权重v","\n",result[[4]],"\n");
- j+ ^$ L& ~+ j, E) `cat("迭代次数N" ,"\n",result[[5]],"\n");
7 c( k' K" z4 s3 C3 @4 F' R1 ?cat("学习误差FW","\n",result[[6]],"\n");
cat("每次迭代的误差","\n");
% G7 [) U2 S  r4 rplot(result[[7]],type="l",ylab="每次学习误差",xlab="反复学习的次数");
  k* V# C9 O% Uproc.time()-ti

廷植斌_972

支持~~顶顶~~~

Esmtih

运行不了啊？

黄窗帘

就看看，不说话。

凌chers

能不能解释一下呢？

兰竹李乐

这牛逼的你自己编的吗