神经网络在R语言 实现

haviet

ti<-proc.time()
" F  `- h8 r- n4 S+ p% \BP_one_output<-function(input,output,m,fth,sth,w,v){
+ @+ y4 D/ ^) P8 I1 V        x<-input;#7*8
$ ^; y4 H* c" L. G5 x  y# l3 r        y<-output;#8*1，y为向量，每一元素为一个样本输出值
8 t. a! _7 I& C& j4 \        theta<-fth;#11*1
        gama<-sth;#标量
  n% h3 m/ T7 V        if(m!=length(theta)) print("阈值长度错误！")
        x<-rbind(x,t(rep(-1,ncol(x))));#8*8导致x的最后一列为阈值theta的权重
        K<-nrow(x);#8一组样本的维数
        J<-ncol(x);#8一共有多少组样本
. h& J% E; h: z1 e4 B3 {1 T        w<-rbind(w,t(theta));#由7*11变为8*11
        v<-c(v,gama);#由11变为12，但请记住：在隐含层增加一个值为-1的节点，但与输入层并未连接
( d$ X' [7 @1 E/ \* L. |4 ]#定义函数f
        f<-function(h) 1/(1+exp(-h));
        epsilon<-alpha<-0.5;
        N<-0;#重复学习次数的计数
        ei<-as.numeric();#记录每次迭代的平均残差平方和
$ M& v7 M& K. }+ Z- N        FW<-1;
        while((FW/J)>=0.001){
" ^9 q. z' H3 ]) [. f8 P' t                Z1<-t(w)%*%x;#11*8矩阵，每一列为一组样本
                Y1<-apply(Z1,c(1,2),f);#11*8矩阵，每一列为一组样本在隐含层的值, a matrix 1 indicates rows,
                                                                                        #2 indicates columns, c(1, 2) indicates rows and columns
9 o2 t- G+ T/ M, W3 W                Z2<-t(v)%*%rbind(Y1,t(rep(-1,ncol(Y1))));#8*1向量，每个元素为隐含层对输出层的加权值
- \; p* c4 J6 v3 A+ y& R1 P% @6 ?                D<-f(Z2);#向量，每一元素为一组样本的一个输出值
$ l6 e6 m8 _% f1 p1 A+ P' h                b<-y-D;
                #J组样本的学习
9 _! c: s+ P7 f1 K3 P3 ?                #向量，输出层对隐含层的权值的偏导
% }# U( s* c- w                FW<-pFW2<-pFW2t_1<-0;
7 R3 Z6 I, C& ?0 }" J: b' w" r% ~                pFW1t_1<-matrix(0,nrow(w),ncol(w));#矩阵，隐含层对输入层权值的偏导
                for(t in 1:J){
                        B3<-b[t];
" p4 ?2 x8 g% L2 z                        FW<-FW+B3*B3;#标量
                        B2<-f(Z2[t])*(1-f(Z2[t]))*B3;#标量
- G8 K  R0 c/ w  f* J                        pFW2<--2*c(Y1[,t],-1)*B2;#12*1向量隐含层对输出层的权重偏导,此时多了一个阈值项
                        if(t==1) v<-v-0.5*epsilon*pFW2
                        else{
                                v<-v-0.5*epsilon*pFW2+alpha*(-0.5*epsilon*pFW2t_1);
: ^: k( q2 c! i4 x- p. ?/ m$ b- w2 k                                pFW2t_1<-pFW2;
9 P; K3 `7 v  y# c                        }
                        B1<-diag(f(Z1[,t])*(1-f(Z1[,t])))%*%v[1length(v)-1)]*B2;#11*1隐含层多出来的一个节点即阈值节点并未与输入层相连
5 B. ~, }5 o5 r2 Z7 f4 A                        pFW1<--2*x[,t]%*%t(B1)#8*11输入层对隐含层的权重偏导
. C9 J8 O& \/ c' o) ]                        if(t==1) w<-w-0.5*epsilon*pFW1
                        else{
                                w<-w-0.5*epsilon*pFW1+alpha*(-0.5*epsilon*pFW1t_1);
' o& Q0 J: x, Q$ @  a2 q2 L3 y                                pFW1t_1<-pFW1;
+ f' U$ u9 [. G3 H2 ~                        }
                }
, ^4 k7 x+ `- C" C. N6 q1 \                N<-N+1;
  w8 W- s% n6 B/ y7 _4 c  r                ei[N]<-FW/J;
        }
- Q, g7 v* i+ B  f        theta<-w[nrow(w),];#隐含层阈值
        gama<-v[length(v)];#输出层阈值
8 ]# {( O0 Y8 y) j        w<-w[1nrow(w)-1),];#输入层对隐含层的权重
        v<-v[1length(v)-1)];#隐含层对输出层的权重
2 B5 \2 r, K9 N4 _/ ~7 r' d        list(theta,gama,w,v,N,FW/J,ei)
}
+ K. z& r: Q9 x) q5 r( Ex<-cbind(x1,x2,x3,x4,x5,x6,x7);
x<-t(x);
4 u4 D7 i0 h& E" M/ Zhidden_threshold<-runif(11);
output_threshold<-runif(1);
w<-matrix(runif(77),7,11);
$ h/ r" u' n8 _5 J9 ^& K; i$ }v<-runif(11);
3 h4 e( X: A; Eresult<-BP_one_output(x,y,11,hidden_threshold,output_threshold,w,v);
, Q  D" E: C; {! L6 o/ N#输出
cat("\n");
cat("隐含层阈值theta","\n",result[[1]],"\n");
! }: v$ K3 h! m4 @cat("输出层阈值gama","\n",result[[2]],"\n");
w<-as.matrix(result[[3]],7,11);
/ W" K2 Y$ R& i" h9 i4 scat("输入层对隐含层的权重w","\n");
. m# K9 m7 v6 X" M* N- Dw;
cat("\n");
cat("隐含层对输出层的权重v","\n",result[[4]],"\n");
! s# }: e4 K& q$ Z: Bcat("迭代次数N" ,"\n",result[[5]],"\n");
" q/ G4 m% n, @8 d1 ?  ?, ncat("学习误差FW","\n",result[[6]],"\n");
cat("每次迭代的误差","\n");
plot(result[[7]],type="l",ylab="每次学习误差",xlab="反复学习的次数");
proc.time()-ti

廷植斌_972

支持~~顶顶~~~

Esmtih

运行不了啊？

黄窗帘

就看看，不说话。

凌chers

能不能解释一下呢？

兰竹李乐

这牛逼的你自己编的吗