神经网络在R语言 实现

haviet

ti<-proc.time()
BP_one_output<-function(input,output,m,fth,sth,w,v){
        x<-input;#7*8
        y<-output;#8*1，y为向量，每一元素为一个样本输出值
        theta<-fth;#11*1
        gama<-sth;#标量
        if(m!=length(theta)) print("阈值长度错误！")
* r6 ^1 m* Q1 Z5 b+ S- z* x" M7 T% \        x<-rbind(x,t(rep(-1,ncol(x))));#8*8导致x的最后一列为阈值theta的权重
        K<-nrow(x);#8一组样本的维数
' s; R. ^0 N5 J  B        J<-ncol(x);#8一共有多少组样本
: }: K% |  ]' p4 @3 ^        w<-rbind(w,t(theta));#由7*11变为8*11
" W4 O5 z( `9 n+ }+ U        v<-c(v,gama);#由11变为12，但请记住：在隐含层增加一个值为-1的节点，但与输入层并未连接
#定义函数f
  E( I; T. M5 M& M        f<-function(h) 1/(1+exp(-h));
- j/ k0 K5 q( f0 f3 I2 L( ]' X, i! x        epsilon<-alpha<-0.5;
        N<-0;#重复学习次数的计数
        ei<-as.numeric();#记录每次迭代的平均残差平方和
        FW<-1;
1 x+ v+ R9 A: ^& |0 g3 W        while((FW/J)>=0.001){
                Z1<-t(w)%*%x;#11*8矩阵，每一列为一组样本
                Y1<-apply(Z1,c(1,2),f);#11*8矩阵，每一列为一组样本在隐含层的值, a matrix 1 indicates rows,
1 S8 p  E6 s3 v0 j" ^! R                                                                                        #2 indicates columns, c(1, 2) indicates rows and columns
% e& E! k. m2 e( i$ M- |9 o* W                Z2<-t(v)%*%rbind(Y1,t(rep(-1,ncol(Y1))));#8*1向量，每个元素为隐含层对输出层的加权值
; R; k% H* M. n                D<-f(Z2);#向量，每一元素为一组样本的一个输出值
! ]+ Q, Z+ D2 ^8 e: v2 ?                b<-y-D;
1 X4 q6 T+ @# J% Y) p                #J组样本的学习
) B6 o0 h) t$ |- V6 B6 j# @                #向量，输出层对隐含层的权值的偏导
                FW<-pFW2<-pFW2t_1<-0;
* y' z; i5 v3 G5 v2 w: `                pFW1t_1<-matrix(0,nrow(w),ncol(w));#矩阵，隐含层对输入层权值的偏导
                for(t in 1:J){
3 D9 r! l" x+ A+ M; z& ^! H. A                        B3<-b[t];
                        FW<-FW+B3*B3;#标量
5 j6 ^, T0 g. H" L                        B2<-f(Z2[t])*(1-f(Z2[t]))*B3;#标量
                        pFW2<--2*c(Y1[,t],-1)*B2;#12*1向量隐含层对输出层的权重偏导,此时多了一个阈值项
                        if(t==1) v<-v-0.5*epsilon*pFW2
                        else{
                                v<-v-0.5*epsilon*pFW2+alpha*(-0.5*epsilon*pFW2t_1);
* \4 }$ t' m: R, g                                pFW2t_1<-pFW2;
                        }
' c$ B8 v) g/ |1 F9 J                        B1<-diag(f(Z1[,t])*(1-f(Z1[,t])))%*%v[1length(v)-1)]*B2;#11*1隐含层多出来的一个节点即阈值节点并未与输入层相连
                        pFW1<--2*x[,t]%*%t(B1)#8*11输入层对隐含层的权重偏导
                        if(t==1) w<-w-0.5*epsilon*pFW1
$ G3 _, ?. Q! \8 v                        else{
                                w<-w-0.5*epsilon*pFW1+alpha*(-0.5*epsilon*pFW1t_1);
5 @0 F) _/ n+ }4 m                                pFW1t_1<-pFW1;
# `) N& }; O6 S1 u( E                        }
                }
9 l: n) G! \+ C3 Y  S% `                N<-N+1;
' [2 D# B  W" U4 U# ?5 v                ei[N]<-FW/J;
, l8 d2 Y4 ]+ q- Y, y7 N        }
        theta<-w[nrow(w),];#隐含层阈值
6 B- L' h4 f+ C9 l' T; @9 w        gama<-v[length(v)];#输出层阈值
        w<-w[1nrow(w)-1),];#输入层对隐含层的权重
        v<-v[1length(v)-1)];#隐含层对输出层的权重
        list(theta,gama,w,v,N,FW/J,ei)
, U7 T& o3 g% \4 o/ S}
x<-cbind(x1,x2,x3,x4,x5,x6,x7);
x<-t(x);
# M$ P* P& `* A) _hidden_threshold<-runif(11);
0 `8 b- E1 r+ \output_threshold<-runif(1);
w<-matrix(runif(77),7,11);
% [. e  n! x+ Nv<-runif(11);
result<-BP_one_output(x,y,11,hidden_threshold,output_threshold,w,v);
#输出
cat("\n");
5 }! L5 ]! i7 [5 w$ ^2 }. Zcat("隐含层阈值theta","\n",result[[1]],"\n");
' X" ~$ T" d8 g1 mcat("输出层阈值gama","\n",result[[2]],"\n");
' I1 ]' b. w9 t8 |1 r- aw<-as.matrix(result[[3]],7,11);
/ a, x. G7 {' tcat("输入层对隐含层的权重w","\n");
$ F* o7 G9 l+ H1 D1 Ow;
cat("\n");
cat("隐含层对输出层的权重v","\n",result[[4]],"\n");
cat("迭代次数N" ,"\n",result[[5]],"\n");
+ w0 @  m; q( |4 H* T# z  J2 lcat("学习误差FW","\n",result[[6]],"\n");
+ Z4 C; t' g# ]2 \cat("每次迭代的误差","\n");
plot(result[[7]],type="l",ylab="每次学习误差",xlab="反复学习的次数");
proc.time()-ti

廷植斌_972

支持~~顶顶~~~

Esmtih

运行不了啊？

黄窗帘

就看看，不说话。

凌chers

能不能解释一下呢？

兰竹李乐

这牛逼的你自己编的吗