神经网络在R语言 实现

haviet

ti<-proc.time()
+ B" y" @. `" h4 [- A9 k+ L7 M9 [BP_one_output<-function(input,output,m,fth,sth,w,v){
# ?; X! }6 C9 }. X' @        x<-input;#7*8
+ R' P& L8 e! B. h( V        y<-output;#8*1，y为向量，每一元素为一个样本输出值
1 W% K3 W. Z. z; E0 {        theta<-fth;#11*1
        gama<-sth;#标量
        if(m!=length(theta)) print("阈值长度错误！")
( K: ?* o, X8 [; O7 ?9 o* b        x<-rbind(x,t(rep(-1,ncol(x))));#8*8导致x的最后一列为阈值theta的权重
. o: j. o) x. E2 C9 K8 l        K<-nrow(x);#8一组样本的维数
        J<-ncol(x);#8一共有多少组样本
        w<-rbind(w,t(theta));#由7*11变为8*11
. l  f9 A7 J  E/ m        v<-c(v,gama);#由11变为12，但请记住：在隐含层增加一个值为-1的节点，但与输入层并未连接
#定义函数f
& t  _+ e, K2 @) d, K! ]) Z        f<-function(h) 1/(1+exp(-h));
4 s+ c# c8 w. `5 D% P7 o        epsilon<-alpha<-0.5;
1 X5 @* g2 B1 r. e+ V        N<-0;#重复学习次数的计数
        ei<-as.numeric();#记录每次迭代的平均残差平方和
3 ?! d! Y+ c# S6 H4 n% A        FW<-1;
        while((FW/J)>=0.001){
6 N; D! z; V! c+ j- M* j; Y' Q                Z1<-t(w)%*%x;#11*8矩阵，每一列为一组样本
9 I9 E* i3 w( Q' v, a8 P/ j                Y1<-apply(Z1,c(1,2),f);#11*8矩阵，每一列为一组样本在隐含层的值, a matrix 1 indicates rows,
                                                                                        #2 indicates columns, c(1, 2) indicates rows and columns
                Z2<-t(v)%*%rbind(Y1,t(rep(-1,ncol(Y1))));#8*1向量，每个元素为隐含层对输出层的加权值
                D<-f(Z2);#向量，每一元素为一组样本的一个输出值
, i% T9 L1 c7 \: o- c                b<-y-D;
                #J组样本的学习
                #向量，输出层对隐含层的权值的偏导
1 h* A2 ^- p. v& y% `! J                FW<-pFW2<-pFW2t_1<-0;
                pFW1t_1<-matrix(0,nrow(w),ncol(w));#矩阵，隐含层对输入层权值的偏导
- y* i! `9 x/ W/ D9 j8 Y                for(t in 1:J){
$ O& c/ S) A7 s, I% b" C" t                        B3<-b[t];
- e8 v6 c0 d% ?% |. ]) W( O                        FW<-FW+B3*B3;#标量
                        B2<-f(Z2[t])*(1-f(Z2[t]))*B3;#标量
                        pFW2<--2*c(Y1[,t],-1)*B2;#12*1向量隐含层对输出层的权重偏导,此时多了一个阈值项
; N) a0 c4 n  S8 k7 M" c& \                        if(t==1) v<-v-0.5*epsilon*pFW2
8 ?5 |$ @% h9 h4 f& |: K, C( n                        else{
                                v<-v-0.5*epsilon*pFW2+alpha*(-0.5*epsilon*pFW2t_1);
                                pFW2t_1<-pFW2;
) ]" W, n# b) P3 f. O* c  D2 e# Z                        }
6 o  w) ]; G/ n" I) @7 v1 j% s                        B1<-diag(f(Z1[,t])*(1-f(Z1[,t])))%*%v[1length(v)-1)]*B2;#11*1隐含层多出来的一个节点即阈值节点并未与输入层相连
# q% V' k) {, k+ d6 g0 u                        pFW1<--2*x[,t]%*%t(B1)#8*11输入层对隐含层的权重偏导
                        if(t==1) w<-w-0.5*epsilon*pFW1
0 z  Q1 @( \  c( [* y" t  @" L                        else{
                                w<-w-0.5*epsilon*pFW1+alpha*(-0.5*epsilon*pFW1t_1);
3 G$ O3 U- W3 k# N/ ]                                pFW1t_1<-pFW1;
                        }
                }
                N<-N+1;
4 Q* Q6 h) g% `! g  n- M                ei[N]<-FW/J;
        }
7 p% r+ v* c1 X, {6 s        theta<-w[nrow(w),];#隐含层阈值
; N8 g5 C% J1 U9 a        gama<-v[length(v)];#输出层阈值
' P# J6 f7 J4 E8 g) o1 g        w<-w[1nrow(w)-1),];#输入层对隐含层的权重
$ S+ B0 L' w/ a' t2 T" s        v<-v[1length(v)-1)];#隐含层对输出层的权重
  G2 ?. Z# ^3 _% R  ]        list(theta,gama,w,v,N,FW/J,ei)
}
5 n3 H! N/ p  Q0 J, Hx<-cbind(x1,x2,x3,x4,x5,x6,x7);
x<-t(x);
hidden_threshold<-runif(11);
output_threshold<-runif(1);
w<-matrix(runif(77),7,11);
v<-runif(11);
& t) B8 P" [7 t. presult<-BP_one_output(x,y,11,hidden_threshold,output_threshold,w,v);
6 a: l' f0 L! r+ v3 D9 k7 |#输出
cat("\n");
cat("隐含层阈值theta","\n",result[[1]],"\n");
cat("输出层阈值gama","\n",result[[2]],"\n");
w<-as.matrix(result[[3]],7,11);
3 F: ^4 E* K5 f5 o. g# icat("输入层对隐含层的权重w","\n");
w;
cat("\n");
2 \, M2 p! P' X3 l6 m- E+ |! g6 b9 rcat("隐含层对输出层的权重v","\n",result[[4]],"\n");
cat("迭代次数N" ,"\n",result[[5]],"\n");
cat("学习误差FW","\n",result[[6]],"\n");
cat("每次迭代的误差","\n");
plot(result[[7]],type="l",ylab="每次学习误差",xlab="反复学习的次数");
# }( H( P# @/ f6 }proc.time()-ti

廷植斌_972

支持~~顶顶~~~

Esmtih

运行不了啊？

黄窗帘

就看看，不说话。

凌chers

能不能解释一下呢？

兰竹李乐

这牛逼的你自己编的吗