神经网络在R语言 实现

haviet

ti<-proc.time()
6 ~! W8 Q  h4 {BP_one_output<-function(input,output,m,fth,sth,w,v){
        x<-input;#7*8
' {! S2 ~3 l4 _' v( `        y<-output;#8*1，y为向量，每一元素为一个样本输出值
        theta<-fth;#11*1
  Z+ z: y( L; s, a% X& `        gama<-sth;#标量
        if(m!=length(theta)) print("阈值长度错误！")
# i8 ?0 n7 z. U3 m- @  L0 F        x<-rbind(x,t(rep(-1,ncol(x))));#8*8导致x的最后一列为阈值theta的权重
        K<-nrow(x);#8一组样本的维数
        J<-ncol(x);#8一共有多少组样本
        w<-rbind(w,t(theta));#由7*11变为8*11
8 K: I4 T4 Z  `. m3 _% g        v<-c(v,gama);#由11变为12，但请记住：在隐含层增加一个值为-1的节点，但与输入层并未连接
#定义函数f
        f<-function(h) 1/(1+exp(-h));
        epsilon<-alpha<-0.5;
5 m% b% K7 l, g) j5 q9 K2 d* j        N<-0;#重复学习次数的计数
        ei<-as.numeric();#记录每次迭代的平均残差平方和
        FW<-1;
        while((FW/J)>=0.001){
                Z1<-t(w)%*%x;#11*8矩阵，每一列为一组样本
, B/ h$ K9 s& I. R, l$ z& \                Y1<-apply(Z1,c(1,2),f);#11*8矩阵，每一列为一组样本在隐含层的值, a matrix 1 indicates rows,
' }1 V: q0 _* i* c                                                                                        #2 indicates columns, c(1, 2) indicates rows and columns
                Z2<-t(v)%*%rbind(Y1,t(rep(-1,ncol(Y1))));#8*1向量，每个元素为隐含层对输出层的加权值
                D<-f(Z2);#向量，每一元素为一组样本的一个输出值
                b<-y-D;
                #J组样本的学习
                #向量，输出层对隐含层的权值的偏导
4 `  f0 y: ~. d! A0 C% q$ a                FW<-pFW2<-pFW2t_1<-0;
                pFW1t_1<-matrix(0,nrow(w),ncol(w));#矩阵，隐含层对输入层权值的偏导
                for(t in 1:J){
                        B3<-b[t];
. C; }5 {4 u4 Z  a  P, M. H* Z) D                        FW<-FW+B3*B3;#标量
0 o% z+ C2 K% V  S2 V                        B2<-f(Z2[t])*(1-f(Z2[t]))*B3;#标量
                        pFW2<--2*c(Y1[,t],-1)*B2;#12*1向量隐含层对输出层的权重偏导,此时多了一个阈值项
2 m) ?9 P3 p& d+ [# ]                        if(t==1) v<-v-0.5*epsilon*pFW2
$ h, B5 X6 @1 F. Y2 i, x7 |                        else{
' V2 ^2 ^9 S5 r/ l" {' G7 m                                v<-v-0.5*epsilon*pFW2+alpha*(-0.5*epsilon*pFW2t_1);
% r" T+ u) v: g3 r# B0 S                                pFW2t_1<-pFW2;
- ~  S$ l; b" S" i& e" X! L1 |% V                        }
& ]" e0 Z  @9 ]+ N3 n: |                        B1<-diag(f(Z1[,t])*(1-f(Z1[,t])))%*%v[1length(v)-1)]*B2;#11*1隐含层多出来的一个节点即阈值节点并未与输入层相连
3 ~7 `1 H7 ]6 z3 w6 w                        pFW1<--2*x[,t]%*%t(B1)#8*11输入层对隐含层的权重偏导
4 n; ?1 E9 G( B+ {5 Y4 r                        if(t==1) w<-w-0.5*epsilon*pFW1
                        else{
6 ^9 ], M. R) g6 l9 V# `1 u                                w<-w-0.5*epsilon*pFW1+alpha*(-0.5*epsilon*pFW1t_1);
                                pFW1t_1<-pFW1;
                        }
                }
/ l+ V7 U0 n* J8 A6 v5 C                N<-N+1;
- d% V2 J5 j: n) Q7 ~8 ]5 Z( x                ei[N]<-FW/J;
        }
        theta<-w[nrow(w),];#隐含层阈值
7 B0 ]' ?& ^* S& L* ~1 t        gama<-v[length(v)];#输出层阈值
        w<-w[1nrow(w)-1),];#输入层对隐含层的权重
4 j, M( W2 f- L        v<-v[1length(v)-1)];#隐含层对输出层的权重
& c+ ?6 V# g2 D6 ~- s2 m        list(theta,gama,w,v,N,FW/J,ei)
}
x<-cbind(x1,x2,x3,x4,x5,x6,x7);
: j& C7 a" x6 {$ D3 E  _6 Qx<-t(x);
9 `. ^" I2 g- ~* l2 h' \hidden_threshold<-runif(11);
output_threshold<-runif(1);
. a5 L6 u- X: zw<-matrix(runif(77),7,11);
  O7 b0 b  N2 Q3 \v<-runif(11);
result<-BP_one_output(x,y,11,hidden_threshold,output_threshold,w,v);
$ V1 C; J7 H- T; V( N& m- {# {#输出
3 @, b7 D; K  Hcat("\n");
& |, @, \, [3 g# c# Icat("隐含层阈值theta","\n",result[[1]],"\n");
cat("输出层阈值gama","\n",result[[2]],"\n");
3 U; ?3 \& k* M2 R7 pw<-as.matrix(result[[3]],7,11);
8 _, p& e% y$ scat("输入层对隐含层的权重w","\n");
w;
cat("\n");
cat("隐含层对输出层的权重v","\n",result[[4]],"\n");
! J4 V/ k! o; a$ x: v/ ^3 Mcat("迭代次数N" ,"\n",result[[5]],"\n");
: |7 q. f( x, i  F8 _3 Fcat("学习误差FW","\n",result[[6]],"\n");
cat("每次迭代的误差","\n");
plot(result[[7]],type="l",ylab="每次学习误差",xlab="反复学习的次数");
6 `) ?! Z7 l1 m% G& `( Vproc.time()-ti

廷植斌_972

支持~~顶顶~~~

Esmtih

运行不了啊？

黄窗帘

就看看，不说话。

凌chers

能不能解释一下呢？

兰竹李乐

这牛逼的你自己编的吗