神经网络在R语言 实现

haviet

ti<-proc.time()
BP_one_output<-function(input,output,m,fth,sth,w,v){
        x<-input;#7*8
0 P3 u1 G" A+ \9 g4 O5 h! h        y<-output;#8*1，y为向量，每一元素为一个样本输出值
; \4 `+ v: L- S7 o        theta<-fth;#11*1
# G% q* }1 F0 y8 S        gama<-sth;#标量
        if(m!=length(theta)) print("阈值长度错误！")
        x<-rbind(x,t(rep(-1,ncol(x))));#8*8导致x的最后一列为阈值theta的权重
        K<-nrow(x);#8一组样本的维数
& k& v( f" W6 R/ \! e; I) h( D& y        J<-ncol(x);#8一共有多少组样本
        w<-rbind(w,t(theta));#由7*11变为8*11
+ R7 s- i6 O" Y) o, u        v<-c(v,gama);#由11变为12，但请记住：在隐含层增加一个值为-1的节点，但与输入层并未连接
#定义函数f
        f<-function(h) 1/(1+exp(-h));
        epsilon<-alpha<-0.5;
* H$ h) g- ~9 b% T1 K        N<-0;#重复学习次数的计数
        ei<-as.numeric();#记录每次迭代的平均残差平方和
        FW<-1;
! a  ]7 @$ C8 X2 H) i        while((FW/J)>=0.001){
. I+ I# Q: i3 J8 }" f. f                Z1<-t(w)%*%x;#11*8矩阵，每一列为一组样本
                Y1<-apply(Z1,c(1,2),f);#11*8矩阵，每一列为一组样本在隐含层的值, a matrix 1 indicates rows,
                                                                                        #2 indicates columns, c(1, 2) indicates rows and columns
                Z2<-t(v)%*%rbind(Y1,t(rep(-1,ncol(Y1))));#8*1向量，每个元素为隐含层对输出层的加权值
) {* E" g: _3 e0 o: y                D<-f(Z2);#向量，每一元素为一组样本的一个输出值
6 W- K. S0 k; E" a: u$ [$ c" v$ o: s                b<-y-D;
                #J组样本的学习
                #向量，输出层对隐含层的权值的偏导
5 c8 X& \& A7 K( t, Y# n                FW<-pFW2<-pFW2t_1<-0;
$ c. v* A7 T$ J5 |. q8 v                pFW1t_1<-matrix(0,nrow(w),ncol(w));#矩阵，隐含层对输入层权值的偏导
                for(t in 1:J){
9 W8 \" _5 [$ a6 n+ G, |                        B3<-b[t];
; o1 b# L+ l; H                        FW<-FW+B3*B3;#标量
! v: ]5 C* F, \0 Q! F# l5 H                        B2<-f(Z2[t])*(1-f(Z2[t]))*B3;#标量
                        pFW2<--2*c(Y1[,t],-1)*B2;#12*1向量隐含层对输出层的权重偏导,此时多了一个阈值项
                        if(t==1) v<-v-0.5*epsilon*pFW2
                        else{
                                v<-v-0.5*epsilon*pFW2+alpha*(-0.5*epsilon*pFW2t_1);
                                pFW2t_1<-pFW2;
                        }
# J. x' j: V$ _7 X( d2 @6 O                        B1<-diag(f(Z1[,t])*(1-f(Z1[,t])))%*%v[1length(v)-1)]*B2;#11*1隐含层多出来的一个节点即阈值节点并未与输入层相连
9 f9 {) b4 ]# J& A1 K/ T- o3 A                        pFW1<--2*x[,t]%*%t(B1)#8*11输入层对隐含层的权重偏导
# i3 u8 m5 A  O- a6 @1 S1 D                        if(t==1) w<-w-0.5*epsilon*pFW1
+ I, D* N) X8 N/ U# F: m2 e                        else{
                                w<-w-0.5*epsilon*pFW1+alpha*(-0.5*epsilon*pFW1t_1);
                                pFW1t_1<-pFW1;
                        }
* T" c% m1 y" Y# Z: h1 f                }
                N<-N+1;
                ei[N]<-FW/J;
$ L- {7 @+ N; B, {3 b4 B        }
        theta<-w[nrow(w),];#隐含层阈值
        gama<-v[length(v)];#输出层阈值
        w<-w[1nrow(w)-1),];#输入层对隐含层的权重
        v<-v[1length(v)-1)];#隐含层对输出层的权重
        list(theta,gama,w,v,N,FW/J,ei)
+ m! O% F. x( I7 M. q! ]2 Z  A}
8 B; s, i1 N9 i( \- R3 J! jx<-cbind(x1,x2,x3,x4,x5,x6,x7);
  W0 b- ?3 K, U: h6 Xx<-t(x);
4 P2 K0 e' E( x" }9 |# u& Bhidden_threshold<-runif(11);
, q$ F: H' F7 X9 O! b. P; a: \) Y+ Toutput_threshold<-runif(1);
w<-matrix(runif(77),7,11);
v<-runif(11);
result<-BP_one_output(x,y,11,hidden_threshold,output_threshold,w,v);
2 `" k7 a% _4 p  j7 v* c#输出
$ k4 g8 Q4 v5 Q: L! R% A# wcat("\n");
% C) y1 z) ~- G+ g. c* A/ A- g( \cat("隐含层阈值theta","\n",result[[1]],"\n");
cat("输出层阈值gama","\n",result[[2]],"\n");
w<-as.matrix(result[[3]],7,11);
' X0 C% G: [" i% a- T* y3 }cat("输入层对隐含层的权重w","\n");
w;
' X* Y2 H$ ^$ K' `% mcat("\n");
5 w0 }" M) d5 H: E# `% I7 G* ncat("隐含层对输出层的权重v","\n",result[[4]],"\n");
cat("迭代次数N" ,"\n",result[[5]],"\n");
cat("学习误差FW","\n",result[[6]],"\n");
8 B, I. f6 A% x5 l0 jcat("每次迭代的误差","\n");
plot(result[[7]],type="l",ylab="每次学习误差",xlab="反复学习的次数");
proc.time()-ti
' \+ i8 `& R( U+ o% o3 H3 Q, w5 v

兰竹李乐

这牛逼的你自己编的吗

凌chers

能不能解释一下呢？

黄窗帘

就看看，不说话。

Esmtih

运行不了啊？

廷植斌_972

支持~~顶顶~~~