神经网络在R语言 实现

haviet

ti<-proc.time()
: b0 V0 n) v. V8 T1 d, q7 sBP_one_output<-function(input,output,m,fth,sth,w,v){
        x<-input;#7*8
        y<-output;#8*1，y为向量，每一元素为一个样本输出值
        theta<-fth;#11*1
" P( z9 `! @8 w+ y& f5 H) c, h        gama<-sth;#标量
" C6 d" s9 W* F, B        if(m!=length(theta)) print("阈值长度错误！")
! e2 w5 _6 z$ ~6 t        x<-rbind(x,t(rep(-1,ncol(x))));#8*8导致x的最后一列为阈值theta的权重
        K<-nrow(x);#8一组样本的维数
        J<-ncol(x);#8一共有多少组样本
7 T4 P: \7 B7 r7 I: a% d        w<-rbind(w,t(theta));#由7*11变为8*11
, W' n% P" c# c0 o+ D' I        v<-c(v,gama);#由11变为12，但请记住：在隐含层增加一个值为-1的节点，但与输入层并未连接
#定义函数f
/ t% }+ t3 Z, O5 e) z        f<-function(h) 1/(1+exp(-h));
% A- Z/ A3 {" L9 w        epsilon<-alpha<-0.5;
/ M0 U# U$ a: E# F        N<-0;#重复学习次数的计数
% W" Y; J, d: I9 ~" v. R        ei<-as.numeric();#记录每次迭代的平均残差平方和
# `, n' y6 o- F5 ]# G6 Q        FW<-1;
) N8 _$ }  t. v8 i        while((FW/J)>=0.001){
                Z1<-t(w)%*%x;#11*8矩阵，每一列为一组样本
+ j" H2 ~' i: a# |$ U7 s- T' d6 I8 [                Y1<-apply(Z1,c(1,2),f);#11*8矩阵，每一列为一组样本在隐含层的值, a matrix 1 indicates rows,
                                                                                        #2 indicates columns, c(1, 2) indicates rows and columns
                Z2<-t(v)%*%rbind(Y1,t(rep(-1,ncol(Y1))));#8*1向量，每个元素为隐含层对输出层的加权值
2 K/ Z1 v/ t8 f6 ~: v4 y( `                D<-f(Z2);#向量，每一元素为一组样本的一个输出值
! n" ?+ C! L8 s0 U9 v% A0 c/ V4 n                b<-y-D;
/ A/ t+ w1 X( j' W$ q                #J组样本的学习
                #向量，输出层对隐含层的权值的偏导
- M8 H+ Y( L1 m( k  W( Q0 _5 @8 A                FW<-pFW2<-pFW2t_1<-0;
                pFW1t_1<-matrix(0,nrow(w),ncol(w));#矩阵，隐含层对输入层权值的偏导
                for(t in 1:J){
# c  G# H0 R1 }, h. w                        B3<-b[t];
3 E' O' n5 h8 @5 m                        FW<-FW+B3*B3;#标量
                        B2<-f(Z2[t])*(1-f(Z2[t]))*B3;#标量
4 `. C2 l4 c6 W                        pFW2<--2*c(Y1[,t],-1)*B2;#12*1向量隐含层对输出层的权重偏导,此时多了一个阈值项
; F/ b) V& l7 D                        if(t==1) v<-v-0.5*epsilon*pFW2
                        else{
                                v<-v-0.5*epsilon*pFW2+alpha*(-0.5*epsilon*pFW2t_1);
                                pFW2t_1<-pFW2;
) G/ m( G$ T2 ~! A! W" b) I                        }
1 n2 {4 V9 y) _- P                        B1<-diag(f(Z1[,t])*(1-f(Z1[,t])))%*%v[1length(v)-1)]*B2;#11*1隐含层多出来的一个节点即阈值节点并未与输入层相连
                        pFW1<--2*x[,t]%*%t(B1)#8*11输入层对隐含层的权重偏导
                        if(t==1) w<-w-0.5*epsilon*pFW1
                        else{
) Y# Q4 J9 @, W0 q( o# ^                                w<-w-0.5*epsilon*pFW1+alpha*(-0.5*epsilon*pFW1t_1);
                                pFW1t_1<-pFW1;
5 U  ]9 e1 c$ X! E8 {9 a) Y" P* }                        }
                }
- ~3 \, C8 G' w( F! ^, T                N<-N+1;
                ei[N]<-FW/J;
. _% p2 M3 X5 f, q2 G, J5 [        }
4 R# h4 H' z# f  M& s; P3 D        theta<-w[nrow(w),];#隐含层阈值
        gama<-v[length(v)];#输出层阈值
        w<-w[1nrow(w)-1),];#输入层对隐含层的权重
( t7 x- W# \* u        v<-v[1length(v)-1)];#隐含层对输出层的权重
        list(theta,gama,w,v,N,FW/J,ei)
}
x<-cbind(x1,x2,x3,x4,x5,x6,x7);
x<-t(x);
4 l( l# `. T3 Yhidden_threshold<-runif(11);
! k0 a$ E9 d  d! {6 `( H4 ^6 woutput_threshold<-runif(1);
w<-matrix(runif(77),7,11);
v<-runif(11);
; }. N" }  O/ u: w1 K, @result<-BP_one_output(x,y,11,hidden_threshold,output_threshold,w,v);
#输出
) \/ D6 j% Y1 c/ k* U( ]7 k9 Lcat("\n");
+ s  U( D' J1 z! b' y4 L: I- `5 Ocat("隐含层阈值theta","\n",result[[1]],"\n");
cat("输出层阈值gama","\n",result[[2]],"\n");
, G6 R( d: z. Y& A: B( x8 M% ww<-as.matrix(result[[3]],7,11);
cat("输入层对隐含层的权重w","\n");
# L) F. M) [% F0 [  _9 J  Jw;
cat("\n");
3 R# h1 [3 O, e  I; h$ {cat("隐含层对输出层的权重v","\n",result[[4]],"\n");
; a- ]# o+ w/ S: D. icat("迭代次数N" ,"\n",result[[5]],"\n");
/ A2 T- E% s/ j+ _& E% Gcat("学习误差FW","\n",result[[6]],"\n");
  u6 L& P0 ~2 E5 t) S5 mcat("每次迭代的误差","\n");
plot(result[[7]],type="l",ylab="每次学习误差",xlab="反复学习的次数");
proc.time()-ti

廷植斌_972

支持~~顶顶~~~

Esmtih

运行不了啊？

黄窗帘

就看看，不说话。

凌chers

能不能解释一下呢？

兰竹李乐

这牛逼的你自己编的吗