神经网络在R语言 实现

haviet

ti<-proc.time()
- |/ i  P+ R6 I6 F7 B8 @BP_one_output<-function(input,output,m,fth,sth,w,v){
/ F8 G) ]2 O+ D0 @! e        x<-input;#7*8
" a: ]. F2 l/ B4 J' y        y<-output;#8*1，y为向量，每一元素为一个样本输出值
: i! A, M8 ^: K3 y        theta<-fth;#11*1
6 F! t0 q" b8 \' @- d7 a) F8 g3 d7 W8 j        gama<-sth;#标量
        if(m!=length(theta)) print("阈值长度错误！")
* J; v* P, j$ Y6 X6 M1 T        x<-rbind(x,t(rep(-1,ncol(x))));#8*8导致x的最后一列为阈值theta的权重
        K<-nrow(x);#8一组样本的维数
        J<-ncol(x);#8一共有多少组样本
9 A  S$ F+ Z4 P/ t7 o        w<-rbind(w,t(theta));#由7*11变为8*11
- M1 D9 \. X0 X5 k0 e6 j$ j, k  D) k( a        v<-c(v,gama);#由11变为12，但请记住：在隐含层增加一个值为-1的节点，但与输入层并未连接
0 u3 o8 u% O: [#定义函数f
6 Z1 U. a2 O. O1 z- r* d& Q: J        f<-function(h) 1/(1+exp(-h));
        epsilon<-alpha<-0.5;
        N<-0;#重复学习次数的计数
        ei<-as.numeric();#记录每次迭代的平均残差平方和
        FW<-1;
        while((FW/J)>=0.001){
% h+ H' J$ Z9 t/ d9 t. x  b/ y! D                Z1<-t(w)%*%x;#11*8矩阵，每一列为一组样本
                Y1<-apply(Z1,c(1,2),f);#11*8矩阵，每一列为一组样本在隐含层的值, a matrix 1 indicates rows,
                                                                                        #2 indicates columns, c(1, 2) indicates rows and columns
4 B) q7 G& r8 [% d                Z2<-t(v)%*%rbind(Y1,t(rep(-1,ncol(Y1))));#8*1向量，每个元素为隐含层对输出层的加权值
+ z' [# r4 ]2 y, u                D<-f(Z2);#向量，每一元素为一组样本的一个输出值
5 V9 g) ~% Z3 Z/ {. J) C& E                b<-y-D;
. q# I6 h" r3 B  r                #J组样本的学习
                #向量，输出层对隐含层的权值的偏导
                FW<-pFW2<-pFW2t_1<-0;
# R2 p/ ^, Y# H                pFW1t_1<-matrix(0,nrow(w),ncol(w));#矩阵，隐含层对输入层权值的偏导
                for(t in 1:J){
                        B3<-b[t];
                        FW<-FW+B3*B3;#标量
+ o6 z  E$ E! e' s                        B2<-f(Z2[t])*(1-f(Z2[t]))*B3;#标量
                        pFW2<--2*c(Y1[,t],-1)*B2;#12*1向量隐含层对输出层的权重偏导,此时多了一个阈值项
3 ^. s4 p4 s: X& Z" `                        if(t==1) v<-v-0.5*epsilon*pFW2
                        else{
                                v<-v-0.5*epsilon*pFW2+alpha*(-0.5*epsilon*pFW2t_1);
                                pFW2t_1<-pFW2;
                        }
                        B1<-diag(f(Z1[,t])*(1-f(Z1[,t])))%*%v[1length(v)-1)]*B2;#11*1隐含层多出来的一个节点即阈值节点并未与输入层相连
; |6 C3 n0 l) H5 e% _! [9 _                        pFW1<--2*x[,t]%*%t(B1)#8*11输入层对隐含层的权重偏导
2 Y) }0 [* ?! |3 a; i                        if(t==1) w<-w-0.5*epsilon*pFW1
                        else{
                                w<-w-0.5*epsilon*pFW1+alpha*(-0.5*epsilon*pFW1t_1);
                                pFW1t_1<-pFW1;
                        }
                }
                N<-N+1;
                ei[N]<-FW/J;
        }
        theta<-w[nrow(w),];#隐含层阈值
0 `5 f- L$ a) Q  f        gama<-v[length(v)];#输出层阈值
        w<-w[1nrow(w)-1),];#输入层对隐含层的权重
# `+ v2 {' f1 z5 F+ x" p        v<-v[1length(v)-1)];#隐含层对输出层的权重
        list(theta,gama,w,v,N,FW/J,ei)
}
x<-cbind(x1,x2,x3,x4,x5,x6,x7);
% a9 D, W4 L3 i) e% r$ gx<-t(x);
+ U1 j6 l) O8 [- t- Khidden_threshold<-runif(11);
2 l) h( @1 U9 Foutput_threshold<-runif(1);
4 L% |, ~" i& q0 f* C2 S% kw<-matrix(runif(77),7,11);
v<-runif(11);
result<-BP_one_output(x,y,11,hidden_threshold,output_threshold,w,v);
# h8 N6 ]6 e  U#输出
, K) U4 k* `: g$ t. z" }5 Wcat("\n");
cat("隐含层阈值theta","\n",result[[1]],"\n");
/ D$ Y* z3 V0 m, v# {1 [cat("输出层阈值gama","\n",result[[2]],"\n");
w<-as.matrix(result[[3]],7,11);
cat("输入层对隐含层的权重w","\n");
w;
cat("\n");
cat("隐含层对输出层的权重v","\n",result[[4]],"\n");
cat("迭代次数N" ,"\n",result[[5]],"\n");
: _6 k  I/ U6 k- ^$ w2 bcat("学习误差FW","\n",result[[6]],"\n");
# i- g7 F' [: O/ }- X5 @cat("每次迭代的误差","\n");
) Z) b: v* c8 B$ ]- v2 ]plot(result[[7]],type="l",ylab="每次学习误差",xlab="反复学习的次数");
  Z- b- z* z9 k4 qproc.time()-ti
: q0 l, k$ s4 u4 L# ^

廷植斌_972

支持~~顶顶~~~

Esmtih

运行不了啊？

黄窗帘

就看看，不说话。

凌chers

能不能解释一下呢？

兰竹李乐

这牛逼的你自己编的吗