神经网络在R语言 实现

haviet

ti<-proc.time()
BP_one_output<-function(input,output,m,fth,sth,w,v){
        x<-input;#7*8
2 N: x+ c* [9 m8 G. C; c, K* \# q% C        y<-output;#8*1，y为向量，每一元素为一个样本输出值
! Y- h9 C# M3 U; t6 p9 ^        theta<-fth;#11*1
        gama<-sth;#标量
        if(m!=length(theta)) print("阈值长度错误！")
        x<-rbind(x,t(rep(-1,ncol(x))));#8*8导致x的最后一列为阈值theta的权重
: X8 Q1 P0 o9 u' v8 b% n        K<-nrow(x);#8一组样本的维数
* v8 X- p- K5 c6 ^" t8 d        J<-ncol(x);#8一共有多少组样本
        w<-rbind(w,t(theta));#由7*11变为8*11
' Y' x2 d- }% |# ^        v<-c(v,gama);#由11变为12，但请记住：在隐含层增加一个值为-1的节点，但与输入层并未连接
( A' o$ [  Y8 F. O8 h3 E#定义函数f
        f<-function(h) 1/(1+exp(-h));
5 f6 E' e3 q* O, H$ R* y        epsilon<-alpha<-0.5;
        N<-0;#重复学习次数的计数
        ei<-as.numeric();#记录每次迭代的平均残差平方和
/ _' P/ s9 |# V+ Q0 x/ l2 W6 h. x        FW<-1;
4 ^) e- w) m* j" r. ?. ~. U4 u& K        while((FW/J)>=0.001){
8 b) ]' c; R4 i* t                Z1<-t(w)%*%x;#11*8矩阵，每一列为一组样本
  C9 \" r+ A  e( i" H% ~                Y1<-apply(Z1,c(1,2),f);#11*8矩阵，每一列为一组样本在隐含层的值, a matrix 1 indicates rows,
                                                                                        #2 indicates columns, c(1, 2) indicates rows and columns
                Z2<-t(v)%*%rbind(Y1,t(rep(-1,ncol(Y1))));#8*1向量，每个元素为隐含层对输出层的加权值
2 y3 D% U5 R+ m& _: }                D<-f(Z2);#向量，每一元素为一组样本的一个输出值
2 A9 y# X. e2 ]3 A" `0 Y                b<-y-D;
                #J组样本的学习
                #向量，输出层对隐含层的权值的偏导
                FW<-pFW2<-pFW2t_1<-0;
+ P* i. {$ L- j* D  `1 x' S' h. V                pFW1t_1<-matrix(0,nrow(w),ncol(w));#矩阵，隐含层对输入层权值的偏导
0 p0 Y* {. W+ X6 J; M) k# ]. F9 s                for(t in 1:J){
                        B3<-b[t];
7 M6 D2 h$ a, l1 u0 \# b                        FW<-FW+B3*B3;#标量
                        B2<-f(Z2[t])*(1-f(Z2[t]))*B3;#标量
9 a: e# }1 {/ a$ w% ^2 J                        pFW2<--2*c(Y1[,t],-1)*B2;#12*1向量隐含层对输出层的权重偏导,此时多了一个阈值项
: c/ K. G# x% j+ E4 @$ o                        if(t==1) v<-v-0.5*epsilon*pFW2
                        else{
: T2 f0 }  |/ O+ s9 D- f                                v<-v-0.5*epsilon*pFW2+alpha*(-0.5*epsilon*pFW2t_1);
  p& w" h' _* l$ [8 W" l0 p0 w                                pFW2t_1<-pFW2;
                        }
                        B1<-diag(f(Z1[,t])*(1-f(Z1[,t])))%*%v[1length(v)-1)]*B2;#11*1隐含层多出来的一个节点即阈值节点并未与输入层相连
( X! `6 z- q' Z# D( G- }                        pFW1<--2*x[,t]%*%t(B1)#8*11输入层对隐含层的权重偏导
1 h: T; }- `" `- A                        if(t==1) w<-w-0.5*epsilon*pFW1
" A) e9 p' J2 b* y* e                        else{
- d* f9 Q+ o3 c% i% [) I8 I                                w<-w-0.5*epsilon*pFW1+alpha*(-0.5*epsilon*pFW1t_1);
: S- x0 i5 R$ `1 k3 y! ]                                pFW1t_1<-pFW1;
. A- I. \  L, I! M7 D: T; `                        }
                }
                N<-N+1;
- D+ B5 M6 L" p) t* x                ei[N]<-FW/J;
        }
        theta<-w[nrow(w),];#隐含层阈值
6 p/ [9 G0 r( X' x6 L+ ?5 y- a9 H        gama<-v[length(v)];#输出层阈值
) I7 J5 x5 v* U7 F# r9 N1 r: H        w<-w[1nrow(w)-1),];#输入层对隐含层的权重
# K7 O0 f  s0 Q1 B        v<-v[1length(v)-1)];#隐含层对输出层的权重
        list(theta,gama,w,v,N,FW/J,ei)
7 X% S! o  k" V' z( O/ A* a/ J}
x<-cbind(x1,x2,x3,x4,x5,x6,x7);
x<-t(x);
5 O3 k2 E1 [0 q% c8 F" Y* khidden_threshold<-runif(11);
% f' F* i9 m; I) ~9 goutput_threshold<-runif(1);
w<-matrix(runif(77),7,11);
v<-runif(11);
result<-BP_one_output(x,y,11,hidden_threshold,output_threshold,w,v);
) d, t2 [, T( C# |' k2 [& @#输出
cat("\n");
cat("隐含层阈值theta","\n",result[[1]],"\n");
' M: J4 M8 l# o! X' ccat("输出层阈值gama","\n",result[[2]],"\n");
w<-as.matrix(result[[3]],7,11);
cat("输入层对隐含层的权重w","\n");
w;
cat("\n");
cat("隐含层对输出层的权重v","\n",result[[4]],"\n");
cat("迭代次数N" ,"\n",result[[5]],"\n");
cat("学习误差FW","\n",result[[6]],"\n");
cat("每次迭代的误差","\n");
plot(result[[7]],type="l",ylab="每次学习误差",xlab="反复学习的次数");
8 |5 O' r3 o& ^: T/ f; t2 |/ Oproc.time()-ti
! y. M* u3 K7 T2 I5 o

廷植斌_972

支持~~顶顶~~~

Esmtih

运行不了啊？

黄窗帘

就看看，不说话。

凌chers

能不能解释一下呢？

兰竹李乐

这牛逼的你自己编的吗