[转帖]C++的BP算法源程序

ilikenba

* o) R: ~; D `7 d$ K7 m' e

5 @4 T( Y5 K. W2 V

#include "iostream.h" # s. A, ?! b+ p" G5 p #include "iomanip.h" ( \: D0 p4 z! q5 d8 | #define N 20 //学习样本个数 #define IN 1 //输入层神经元数目 $ T; o9 T% \1 v8 Z; k: T #define HN 8 //隐层神经元数目 # L2 s5 J. L4 D! M0 n: X% q2 Q #define ON 1 //输出层神经元数目 6 X' r( v* r2 q/ R3 Q; J% P double P[IN]; //单个样本输入数据 8 x9 \9 u+ `( i, N/ L+ J double T[ON]; //单个样本教师数据 7 f/ ~. x1 F; O/ R double W[HN][IN]; //输入层至隐层权值 double V[ON][HN]; //隐层至输出层权值 $ t" |$ c( U, ^+ W; h1 r4 @ double X[HN]; //隐层的输入 double Y[ON]; //输出层的输入 double H[HN]; //隐层的输出 double O[ON]; //输出层的输出 double sita[HN]; //隐层的阈值 double gama[ON]; //输出层的阈值 double err_m[N]; //第m个样本的总误差 double alpha; //输出层至隐层的学习效率 / n2 c1 t) _9 ~+ _7 _7 K double beta; //隐层至输入层学习效率 / I, K' i8 u" m; v //定义一个放学习样本的结构 struct { " Y/ @- d) |- {; v \9 } double input[IN]; & U; o% K; v9 d2 M# i. ^) O( _ double teach[ON]; }Study_Data[N][IN]; }8 E( y; D5 j* I! X3 V5 ]3 B & k' t5 i& e2 d5 b+ M7 ] /////////////////////////// //初始化权、阈值子程序///// - k9 e4 V' Z+ i /////////////////////////// 2 X6 t4 A# L" g( Y3 y* y- K1 I initial() { , |+ d- ~8 h2 E6 Y float sgn; float rnd; int i,j; 6 N% u/ M+ f) U //隐层权、阈值初始化// { 3 J) {7 @/ a6 R7 L4 a& v //sgn=pow((-1),random(100)); 7 C+ |4 n# u6 V7 x* ] sgn=rand(); rnd=sgn*(rand()%100); W[j]= rnd/100;//隐层权值初始化。 , `: J) c Y+ I4 `/ _3 R. Z* P } 5 c1 w, i' n. K //randomize(); " l- n% B+ T. m/ K3 V { ; W e$ ?- z# ]7 f% p% Q# ?% _ //sgn=pow((-1),random(1000)); sgn=rand(); ' [# O, i2 a# D. O) j6 h rnd=sgn*(rand()%1000); 5 p$ m `2 @# _: n5 B) B7 I9 } sita[j]= rnd/1000;//中间层阈值初始化 cout<<"sita"<<sita[j]<<endl; } ; w) T& W0 ]. l- @- D2 `+ z) a$ Q //输出层权、阈值初始化// //randomize(); for (int k=0;k<ON;k++) for (int j=0;j<HN;j++) - j4 D" S2 ?* `7 t { ) @% _8 e/ L, a. v" R r //sgn=pow((-1),random(1000)); a% N9 O; @8 x! `5 @! g sgn=rand(); rnd=sgn*(rand()%1000); $ Y( q. X, g" G @3 u* D V[k][j]=rnd/1000;//第m个样本输出层权值初始化 } 2 T/ X8 k8 q7 q& g- U- U //randomize(); { 5 I2 |( L- T, s: B3 y' e1 v //sgn=pow((-1),random(10)); $ @ L5 ^; o h% ]5 o; }8 `1 r+ F* I sgn=rand(); 5 J6 S5 B. u3 S# @1 P/ _: d+ k1 P rnd=sgn*(rand()%10); gama[k]=rnd/10;//输出层阈值初始化 cout<<"gama[k]"<<endl; } : e/ ?0 U5 K) X# u& h: Q- b- ~ return 1; : E8 I$ I5 k0 J: R% @. c: h$ X8 j % Q Q& R( k9 N* p( g$ r }//子程序initial()结束

//////////////////////////////// 9 ?+ {2 z# h7 |+ e ////第m个学习样本输入子程序/// - @3 p6 w9 K$ z" S6 u% u! M. H /////////////////////////////// ( _+ p$ C& J1 D3 r, Q input_P(int m) { for (int i=0;i<IN;i++) P=Study_Data[m]->input; 4 y3 H x. q) S! d //获得第m个样本的数据 " }" {6 T/ O% g0 F: y* P //cout<<"第"< //fprintf(fp,"第%d个样本的学习输入： //P[%d]=%f\n",m,P); return 1; }//子程序input_P(m）结束 3 k4 Z9 t) x+ ^ ///////////////////////////// , p1 |, k5 L R2 j N1 k9 `& c ////第m个样本教师信号子程序// & P7 R V; c. W+ C' x! Y ///////////////////////////// input_T(int m) ( M7 d W. N' p4 Q& x { for (int k=0;k<m;k++) T[k]=Study_Data[m]->teach[k]; ' a+ s4 ^6 q8 y: Y: y5 O //cout<<"第"< //fprintf(fp,"第%d个样本的教师信号：T[% d] =%f\n",m,T[k]); return 1; }//子程序input_T(m)结束 ///////////////////////////////// 2 Q5 j4 `( }5 L0 J //隐层各单元输入、输出值子程序/// + u; N- f% ?4 e/ G; F3 V$ B ///////////////////////////////// H_I_O(){ double sigma; int i,j; for (j=0;j<HN;j++) ; L- s2 { `2 \1 O4 \ F+ b sigma=0.0; for (i=0;i<IN;i++) sigma+=W[j]*P;//求隐层内积 / L0 U. F6 M$ h# z0 b* |) h- W. u } X[j]=sigma - sita;//求隐层净输入 H[j]=1.0/(1.0+exp(-X[j]));//求隐层输出 } return 1; / B' O4 w8 N+ @5 j( w. v# H1 @0 ^2 v1 u }//子程序H_I_O()结束 /////////////////////////////////// * \% A6 @5 b4 n8 ]; p1 | //输出层各单元输入、输出值子程序/// 5 J" H; V2 i& w1 N# d1 G( f% C/ u /////////////////////////////////// U6 j% Q S: e7 C/ f- o8 w, F O_I_O() ( x4 k; q9 U3 p9 I! ^ { 0 H0 _5 }. c I S d& q. A4 U" V# [ double sigma; for (int k=0;k<ON;k++) sigma=0.0; for (int j=0;j<HN;j++) sigma+=V[k][j]*H[k];//求输出层内积 } Y[k]=sigma-gama[k]; //求输出层净输入 8 M! b; C1 d2 J, w$ V) v. b& r O[k]=1.0/(1.0+exp(-Y[k]));//求输出层输出 ; Z/ [% _* E5 E4 c/ N% |! M } ' z* l5 n* [& d v& H return 1; }//子程序O_I_O()结束 //////////////////////////////////// 0 K6 E$ [1 h: G2 A- L; h* j4 M8 ]; m( k //输出层至隐层的一般化误差子程序//// . |' X- z6 m" Z. f) L, V //////////////////////////////////// double d_err[ON]; Err_O_H(int m) ) q" U: i' b" S0 m { 0 f ]5 t( Y8 P0 O* H double abs_err[ON];//每个样本的绝对误差都是从0开始的 % G+ k# }% v# e8 _ double sqr_err=0;//每个样本的平方误差计算都是从0开始的 //for (int output=0;output<ON;output++) //output??? 9 N0 T" S6 ~9 k8 u- S for (int k=0;k<ON;k++) abs_err[k]=T[k]-O[k]; 5 N8 X7 n% k& |' s" i$ [+ P) \2 b5 j- G //求第m个样本下的第k个神经元的绝对误差 sqr_err+=(abs_err[k])*(abs_err[k]);//求第m个样本下输出层的平方误差 d_err[k]=abs_err[k]*O[k]*(1.0-O[k]);//d_err[k]输出层各神经元的一般化误差 7 N: F$ X2 P% P9 P0 G6 |) h } : U2 x2 z1 ?) b0 a5 M4 H err_m[m]=sqr_err/2;//第m个样本下输出层的平方误差/2=第m个样本的均方误差 8 g p- C+ Q" x9 f& }0 S: [( W return 1; }//子程序Err_O_H(m)结束 //////////////////////////////////// //隐层至输入层的一般化误差子程序//// 1 v: G0 Z0 Q. v, i4 b! J //////////////////////////////////// & [8 a2 B( J' s5 W double e_err[HN]; Err_H_I(){ " S! o! C; i3 z5 \( q. w' c+ X double sigma; ( C' \" D% }0 a! v3 d( r //for (int hidden=0;hidden $ V- j6 v2 Z& m: V for (int j=0;j<HN;j++) 4 ?5 l1 L# u7 Q) }! [# Z8 u8 g sigma=0.0; - _ d! Q' S: p% j for (int k=0;k<ON;k++) sigma=d_err[k]*V[k][j]; ( c; h9 j5 U" Y( {/ e* E } e_err[j]=sigma*H[j]*(1-H[j]);//隐层各神经元的一般化误差 } return 1; }//子程序Err_H_I()结束 ( D3 Y2 b% e! e g/ c5 ]8 V, ~* l //////////////////////////////////////////////////////// + \2 ?$ B$ D0 p* S //输出层至隐层的权值调整、输出层阈值调整计算子程序////// //////////////////////////////////////////////////////// 8 @# f. ~; w! E8 x% u& f Delta_O_H(int m,FILE* fp) / m" E4 s$ V6 z0 h5 e { for (int k=0;k<ON;k++) 3 q$ c) o/ R9 v7 ~7 @1 j$ x4 [* K for (int j=0;j<HN;j++) //cout<<"第"< fprintf(fp,"第%d个样本时的输出层至隐层的权值为：%f\n",m,W[k][j]); ( }1 d7 M4 _$ i V[k][j]+=alpha*d_err[k]*H[j];//输出层至隐层的权值调整 . j( Q1 t. U( E3 k9 H% { } gama[k]+=alpha*d_err[k];//输出层至隐层的阈值调整 * D# |, q: [" [ } return 1; 9 d2 Q- a- z* y+ w5 a( D }//子程序Delta_O_H()结束 0 Y8 h$ l$ k( ]; M4 [; U& {# \ ///////////////////////////////////////////////////// " } H: n) h \1 \4 X1 C% Z% X //隐层至输入层的权值调整、隐层阈值调整计算子程序///// 8 ^3 a& V# @% v0 u! t3 t5 r% a ///////////////////////////////////////////////////// 5 u+ y# \- d, { Delta_H_I(int m,FILE* fp) { for (int j=0;j<HN;j++) for (int i=0;i<IN;i++) : W" O$ B, o# @" w //cout<<"第"< fprintf(fp,"第%d个样本时的输出层至隐层的权值为：%f\n",m,V[j]); W[j]+=beta*e_err[j]*P;//隐层至输入层的权值调整 } : h% [9 S4 \& I/ h6 {: W7 A& P sita[j]+=beta*e_err[j]; } * V% @6 y5 x' q* _ return 1; }//子程序Delta_H_I()结束 ///////////////////////////////// . S/ q4 \$ w! r) m //N个样本的全局误差计算子程序//// ///////////////////////////////// ! R) @ X1 \3 r; _2 l T- e double Err_Sum() / ]& J( F6 ~2 X9 J/ ?' O# I { 2 d' M- {4 [9 f2 h double total_err=0; ( T2 N9 r2 |3 g) [0 T6 z" K" i for (int m=0;m<N;m++) total_err+=err_m[m];//每个样本的均方误差加起来就成了全局误差 } return 1; }//子程序Err_sum()结束 /**********************/ ; |, J2 w9 d6 @ /**程序入口，即主程序**/ /**********************/ 7 M9 ]: P% B% [( V: H& x main() { FILE *fp; * E" k6 B6 {- y' y# b double sum_err; int study;//训练次数 if ((fp=fopen("bp.txt","a+"))==NULL) 8 @+ e/ ], L3 J% x { 2 t5 i6 O; D9 [) ?' J8 l; |( ? printf("不能创建bp.txt文件!\n"); exit(1); 3 q1 b7 G ]& n u6 ^ } cout<<"请输入输出层到隐含层学习效率: alpha=\n"; ) c5 _: K4 R' i8 Q0 i0 Z# c" C cin>>alpha; cout<<"请输入隐含层到输入层学习效率: beta=\n"; cin>>beta; int study=0; //学习次数 double Pre_error ; //预定误差 8 [( @6 K* A2 r- u$ \ cout<<"请输入预定误差: Pre_error= \n"; 6 I! f0 o! j" z cin>>re_error; 4 d C5 o2 T- }/ ]$ ^7 O int Pre_times; cout<<"请输入预定最大学习次数re_times=\n"; cin>>re_times; cout<<"请输入学习样本数据\n"; $ Q4 q+ P" S6 C- [ { 4 H" m- @" ]! p# J2 h( O0 n for (int m=0;m<N;m++) . r" z, D/ c3 q: L( Y2 `. c cout<<"请输入第"<<m+1<<"组学习样本"<<endl; : u- x3 @+ l6 t) R: r1 \$ e* u for (int i=0;i<IN;i++) ; B% y- b- Z1 \4 m; P cin>>Study_Data[m]->input; } ! I" s8 O7 Z7 _7 \ { $ U* b6 L2 L. F" @ for (int m=0;m<N;m++) cout<<"请输入第"<<m+1<<"组教师样本"<<endl; for (int k=0;k<ON;k++) ! l7 }8 c* O* D& D/ y& C cin>>Study_Data[m]->teach[k]; 4 |4 k4 D$ N$ h- A Y% ` ` } initial(); //隐层、输出层权、阈值初始化 (1) 4 X9 d4 V5 k4 g/ O5 Z do 1 L9 W* o4 ]$ R% E, b( q1 f; n { ++study; ///??? for (int m=0;m<N;m++) { input_P(m); //输入第m个学习样本 (2) + I( k2 \& W2 J7 O! }- S B input_T(m);//输入第m个样本的教师信号 (3) H_I_O(); //第m个学习样本隐层各单元输入、输出值 (4) m- s& P! i. {' |/ j* }0 z O_I_O(); //第m个学习样本输出层各单元输入、输出值 (5) + M8 r2 M: q( x2 { Err_O_H(m); //第m个学习样本输出层至隐层一般化误差 (6) - H* ]$ j( I x Err_H_I(); //第m个学习样本隐层至输入层一般化误差 (7) 3 v. c, P# l' M% [( H Delta_O_H(m,fp); //第m个学习样本输出层至隐层权阈值调整、修改 (8) 7 J3 D z* `# z Delta_H_I(m,fp); //第m个学习样本隐层至输入层权阈值调整、修改 (9) } //全部样本训练完毕 ; q6 i7 p4 ^: \- t$ D o sum_err=Err_Sum(); //全部样本全局误差计算 (10) { 6 N- B' w( T3 E- t4 p* [" U cout<<"第"<<study<<"次学习的均方误差为"<<sum_err<<endl; fprintf(fp,"第%d次学习的均方误差为：%f\n",study,sum_err); 7 y' d) T0 h2 F* \ S5 M, {# m, Q } while (sum_err > Pre_error) //or(study , S3 Z1 Z+ @0 o c+ _4 k3 P { //N个样本全局误差小于预定误差否？ 小于则退出 (11) : Z6 E* R* J% b1 { B4 V A cout<<"网络已经学习了"<<study<<"次,学习的均方误差为"<<sum_err<<endl; 2 [! I0 k6 _1 Y, C; C- t0 s fprintf(fp,"网络已经学习了%d次，现在的全局误差为：%f\n",study,total_err); 4 E3 J- \6 ?$ x [ fclose(fp); } char s; ! d' G6 M3 v/ d& L. D cout<<"请随便输入一个字符，按回车退出程序！\n"; cin>>s; + P! O" W- P6 C0 \ return 1; M8 O( P% l. K9 {' x }

devil1980

笑死了，垃圾程序。这个只能是c 程序

而且还不收敛

误差只能到1

里面还有许多bug

chz0829

看不懂