#include "iostream.h"! m5 d, P, L# l! ^4 K1 o+ R& x6 W! G #include "iomanip.h") @& D+ {5 P" [1 u& u% @6 | #define N 20 //学习样本个数. E3 f" K: b" |: U! Z' C6 s8 Q4 j" ? #define IN 1 //输入层神经元数目 #define HN 8 //隐层神经元数目" \1 x6 `' d" ]1 k' b& s0 b. z# G #define ON 1 //输出层神经元数目 double P[IN]; //单个样本输入数据 double T[ON]; //单个样本教师数据 double W[HN][IN]; //输入层至隐层权值 double V[ON][HN]; //隐层至输出层权值 double X[HN]; //隐层的输入" q+ y6 B4 v, G' X* e: H double Y[ON]; //输出层的输入! @2 S& W8 [: E8 H- ^5 R double H[HN]; //隐层的输出 double O[ON]; //输出层的输出1 E+ |- ^+ J8 k3 E" e double sita[HN]; //隐层的阈值! q8 |1 A- M* F double gama[ON]; //输出层的阈值$ G6 d; F6 e7 Z2 t Y+ @5 B2 C, R. Q9 D, F double err_m[N]; //第m个样本的总误差 h- F; `3 t/ M/ F5 ~% ?/ X7 I double alpha; //输出层至隐层的学习效率. S! t- {) f, @5 v" g | double beta; //隐层至输入层学习效率 //定义一个放学习样本的结构* R5 p# C1 `+ P- K struct {' s) c; W( `& y+ c0 r double input[IN]; double teach[ON]; }Study_Data[N][IN]; /////////////////////////// //初始化权、阈值子程序///// /////////////////////////// initial() { float sgn;7 H+ i6 H- F" m" Z) g4 T7 ` float rnd;: V/ V6 G- C: v' D( E: p int i,j;6 R5 G3 {4 e# E h //隐层权、阈值初始化//0 A6 D% ]" H6 A8 I7 { @ {$ `* W5 |4 E! t //sgn=pow((-1),random(100)); e |/ b- h$ f$ a$ v sgn=rand();& M/ T7 d, y( e E2 M) T" ?2 ^ rnd=sgn*(rand()%100);8 i2 D. B, _4 ` W[j]= rnd/100;//隐层权值初始化。 }% m3 T# [; p- [& } //randomize(); {$ B0 S6 k1 S3 j y# G* D4 I //sgn=pow((-1),random(1000)); sgn=rand(); rnd=sgn*(rand()%1000);7 c; Y; V& G1 {, N! R sita[j]= rnd/1000;//中间层阈值初始化1 X5 d! F" N, V2 o, [" K8 q cout<<"sita"<<sita[j]<<endl; }4 v5 u: p" v9 W6 U, F& ^( U, b/ M! ^+ t //输出层权、阈值初始化//7 C& u, w; {- C+ t4 c1 i2 P2 M/ K //randomize();( s5 D1 t6 N6 ? for (int k=0;k<ON;k++)" K- C+ ^7 g( p6 w6 P- [ for (int j=0;j<HN;j++) {- a1 u# d- r0 Y# B8 k. \ //sgn=pow((-1),random(1000));9 E+ `- o) n# n! C) c sgn=rand(); rnd=sgn*(rand()%1000); V[k][j]=rnd/1000;//第m个样本输出层权值初始化% T" w( B: d, M+ Q2 f }- }5 W6 h0 D5 d* X; s //randomize(); { //sgn=pow((-1),random(10));# S: \3 w" P% d sgn=rand();: {: L% b s; ]$ V& \% V6 c. y rnd=sgn*(rand()%10); gama[k]=rnd/10;//输出层阈值初始化: Z3 m* h5 h g* P cout<<"gama[k]"<<endl; }5 a4 e; N* @# F, ~: w3 } return 1;/ P& {/ g2 h$ \8 Y( }. L" X ) D3 O K& P/ l F }//子程序initial()结束
1 a9 V. h% J/ S. y ////////////////////////////////
////第m个学习样本输入子程序///* T$ X$ ?& g" H9 a$ X, y
///////////////////////////////
input_P(int m)
{
for (int i=0;i<IN;i++). K; A$ D$ i- R5 ^' F5 F6 D: |
P=Study_Data[m]->input;/ x! Z2 {+ b; E: t
//获得第m个样本的数据
//cout<<"第"< //fprintf(fp,"第%d个样本的学习输入：
//P[%d]=%f\n",m,P);, Z, _) S% O( `3 e9 x/ c3 `
return 1;
}//子程序input_P(m）结束
/////////////////////////////6 \4 C* j; a* F. I
////第m个样本教师信号子程序//
/////////////////////////////6 X$ Z5 o- Q8 S5 i; A m
input_T(int m)
{. h! t; `# |/ \5 ~% J3 ~4 R6 M
for (int k=0;k<m;k++)& {1 |0 E8 T+ ^8 C! d1 W
T[k]=Study_Data[m]->teach[k];! A& v# P4 J6 e
//cout<<"第"< //fprintf(fp,"第%d个样本的教师信号：T[% d] =%f\n",m,T[k]);6 \6 }1 p1 c& I! ~0 L
return 1;
}//子程序input_T(m)结束
/////////////////////////////////
//隐层各单元输入、输出值子程序///! \" t0 z W$ a/ B9 M; L$ f
/////////////////////////////////
H_I_O(){
double sigma;& F! _ t. s* t Q' S( z( r7 |4 _
int i,j;# {5 ~4 ~5 N o+ F
for (j=0;j<HN;j++)$ D4 b5 M. _2 N5 G, f5 J
sigma=0.0;9 S' K) z/ H5 ^9 D+ c
for (i=0;i<IN;i++), w, ^3 f) s' Q, P2 B" i# o+ E
sigma+=W[j]*P;//求隐层内积, v+ M( ~; x: \9 g5 ^/ M
}3 n H E+ k$ |. J, S% Y9 F
X[j]=sigma - sita;//求隐层净输入
H[j]=1.0/(1.0+exp(-X[j]));//求隐层输出2 Q2 I; Q; r7 K. q1 k/ h8 i6 ]) @! A
}
return 1;, C% b+ n5 |# e
}//子程序H_I_O()结束& ?0 z$ }- G+ ]% ^0 n6 C
///////////////////////////////////
//输出层各单元输入、输出值子程序///
///////////////////////////////////) e$ g$ p+ v0 y* h- E" ^7 g! M
O_I_O()8 d+ ]5 B2 ^$ p: V7 v
{
double sigma;
for (int k=0;k<ON;k++)
sigma=0.0;1 ]6 o. |( b3 z! ]
for (int j=0;j<HN;j++)
sigma+=V[k][j]*H[k];//求输出层内积9 y$ y$ D. e1 `# z9 B+ y$ \
}- |) K- \1 A' I' i9 u+ A& a! \
Y[k]=sigma-gama[k]; //求输出层净输入) s1 F2 c9 k2 O9 a; t+ Y+ i# x
O[k]=1.0/(1.0+exp(-Y[k]));//求输出层输出8 F" W( i- q( _5 }+ p
}& p( ?: L2 B+ O3 h0 L) b
return 1;
}//子程序O_I_O()结束
////////////////////////////////////
//输出层至隐层的一般化误差子程序////( e8 u1 F( b$ U* L9 y
////////////////////////////////////
double d_err[ON];( |7 e2 c* y+ |( t! I
Err_O_H(int m); g, Y2 N* R: l- C. T5 r9 `, Y l
{
double abs_err[ON];//每个样本的绝对误差都是从0开始的' y2 s3 K# `4 ~* v" O
double sqr_err=0;//每个样本的平方误差计算都是从0开始的
//for (int output=0;output<ON;output++) //output???5 F6 ^' G6 \5 L- f1 t z
for (int k=0;k<ON;k++)
abs_err[k]=T[k]-O[k];
//求第m个样本下的第k个神经元的绝对误差
sqr_err+=(abs_err[k])*(abs_err[k]);//求第m个样本下输出层的平方误差
d_err[k]=abs_err[k]*O[k]*(1.0-O[k]);//d_err[k]输出层各神经元的一般化误差- x* G7 _. m4 w/ @+ J
}
err_m[m]=sqr_err/2;//第m个样本下输出层的平方误差/2=第m个样本的均方误差. z& n8 N8 ^8 Z; C" O
return 1;
}//子程序Err_O_H(m)结束
////////////////////////////////////
//隐层至输入层的一般化误差子程序////
////////////////////////////////////
double e_err[HN];
Err_H_I(){
double sigma;
//for (int hidden=0;hidden7 y6 T9 v7 {# v2 y! v! K
for (int j=0;j<HN;j++) % w6 G3 t9 A! Q6 v+ {7 O
sigma=0.0;
for (int k=0;k<ON;k++) 3 z3 c. A! x, h) T, Z
sigma=d_err[k]*V[k][j];# z7 V/ R' }2 J, f- p, B
}, L+ R1 B9 C3 g! D+ D$ `
e_err[j]=sigma*H[j]*(1-H[j]);//隐层各神经元的一般化误差
}$ c9 C, L: t2 y6 A
return 1;6 C: v. K$ w c9 z3 A6 F# Y
}//子程序Err_H_I()结束5 M, `& \# q* x, e& r
////////////////////////////////////////////////////////
//输出层至隐层的权值调整、输出层阈值调整计算子程序//////
////////////////////////////////////////////////////////, G2 ]( u. J3 e6 K: u
Delta_O_H(int m,FILE* fp)
{; i7 F- y% Y c) D" Q$ j! a8 ?
for (int k=0;k<ON;k++)
for (int j=0;j<HN;j++)
//cout<<"第"< # t3 S% h) B; ?* L
fprintf(fp,"第%d个样本时的输出层至隐层的权值为：%f\n",m,W[k][j]);
V[k][j]+=alpha*d_err[k]*H[j];//输出层至隐层的权值调整
}
gama[k]+=alpha*d_err[k];//输出层至隐层的阈值调整1 z V& Y' I! O, ~8 S
}3 I9 o) S0 P* u; a1 [& k
return 1;
}//子程序Delta_O_H()结束- U; c: l: G- j7 Q
/////////////////////////////////////////////////////' ?% H1 C# p9 q* t; b
//隐层至输入层的权值调整、隐层阈值调整计算子程序/////- a7 m% D, o4 N6 l6 ~, n! k& M
/////////////////////////////////////////////////////
Delta_H_I(int m,FILE* fp)0 B0 y" `1 K ?$ s2 F' M) k
{3 k5 X5 n0 Y0 G G# f& n
for (int j=0;j<HN;j++)
for (int i=0;i<IN;i++) / @: |% E/ G: E" F
//cout<<"第"< fprintf(fp,"第%d个样本时的输出层至隐层的权值为：%f\n",m,V[j]);
W[j]+=beta*e_err[j]*P;//隐层至输入层的权值调整/ y& u; [4 p! y/ T( t1 A! S6 V$ W: k
}5 L( U" t! P0 F: h# z1 b
sita[j]+=beta*e_err[j];
}5 f$ J Z$ i/ X4 { l' T
return 1;& H! V# Z* I( X' B; [* ?
}//子程序Delta_H_I()结束
/////////////////////////////////
//N个样本的全局误差计算子程序////
/////////////////////////////////
double Err_Sum()
{; Y) ]2 f! O; q( G
double total_err=0;
for (int m=0;m<N;m++)
total_err+=err_m[m];//每个样本的均方误差加起来就成了全局误差
}+ W3 h5 u0 s3 D) G
return 1;
}//子程序Err_sum()结束' I$ `- D' p8 i( m8 A( v3 |; O6 ~
/**********************/% z* I: A( v4 c: b( u% D
/**程序入口，即主程序**/
/**********************/
main()' H! e- d; z% f! |5 q5 b; V
{
FILE *fp;
double sum_err;% W0 A/ T- S* X* u, v
int study;//训练次数8 m9 g9 P4 x) F
if ((fp=fopen("bp.txt","a+"))==NULL)
{
printf("不能创建bp.txt文件!\n");
exit(1);
}2 @: _1 E$ \0 ^% h: O8 D
cout<<"请输入输出层到隐含层学习效率: alpha=\n";
cin>>alpha;
cout<<"请输入隐含层到输入层学习效率: beta=\n";! D$ n$ }2 Q4 i" G& o. [) p
cin>>beta;+ z- K! H) k) U. i4 q3 [
int study=0; //学习次数0 G% K; P# \8 [% z1 O; r
double Pre_error ; //预定误差( a! _* `- e1 T) a: q% P4 u* A& L
cout<<"请输入预定误差: Pre_error= \n";
cin>>
re_error;
int Pre_times;' `# T* y2 [2 Q) c0 g! `
cout<<"请输入预定最大学习次数
re_times=\n";
cin>>re_times;2 v! c, ~: P& C# I0 B
cout<<"请输入学习样本数据\n";4 i; b+ C+ q" v$ `# ^- N
{, U! `0 i6 Y) w4 U$ M0 R
for (int m=0;m<N;m++)
cout<<"请输入第"<<m+1<<"组学习样本"<<endl;
for (int i=0;i<IN;i++)
cin>>Study_Data[m]->input;
}
{
for (int m=0;m<N;m++)6 I6 `2 q% V: N3 `% T4 B& e
cout<<"请输入第"<<m+1<<"组教师样本"<<endl; 1 ]% N0 m5 H F' h4 o- r4 {) O
for (int k=0;k<ON;k++)8 m2 |4 q: ?& b- G
cin>>Study_Data[m]->teach[k]; z+ v' i& m; M% d' d5 s( R8 b, }. D" x
}
initial(); //隐层、输出层权、阈值初始化 (1) 5 y* D1 \3 D Q U- X( n
do) b, ]) c) ^. h" k7 N9 q) t4 A
{: W' H, e/ |0 A
++study; ///???, B& ^7 A1 T8 P# s* g1 t
for (int m=0;m<N;m++)
{+ Z8 G* Q% m4 O: [5 ` X
input_P(m); //输入第m个学习样本 (2)
input_T(m);//输入第m个样本的教师信号 (3)
H_I_O(); //第m个学习样本隐层各单元输入、输出值 (4)
O_I_O(); //第m个学习样本输出层各单元输入、输出值 (5)& D+ j- `2 s5 Z8 `
Err_O_H(m); //第m个学习样本输出层至隐层一般化误差 (6)
Err_H_I(); //第m个学习样本隐层至输入层一般化误差 (7)3 X( N/ g, v) X# g+ A7 b
Delta_O_H(m,fp); //第m个学习样本输出层至隐层权阈值调整、修改 (8)! A7 d* m1 y0 u2 \0 {' T3 }
Delta_H_I(m,fp); //第m个学习样本隐层至输入层权阈值调整、修改 (9)& p* }/ l7 J/ z* @, p) _/ E5 N
} //全部样本训练完毕. f; `! o$ `/ b8 O0 b3 v
sum_err=Err_Sum(); //全部样本全局误差计算 (10)0 V$ ]: t) m" |% l
{
cout<<"第"<<study<<"次学习的均方误差为"<<sum_err<<endl;
fprintf(fp,"第%d次学习的均方误差为：%f\n",study,sum_err);
}
while (sum_err > Pre_error) //or(study
{ //N个样本全局误差小于预定误差否？ 小于则退出 (11)5 g4 o* j: x2 O& N/ F: t2 _" ^
cout<<"网络已经学习了"<<study<<"次,学习的均方误差为"<<sum_err<<endl;! F% D1 W, `! K% A5 X }3 s
fprintf(fp,"网络已经学习了%d次，现在的全局误差为：%f\n",study,total_err);0 g& L; Y3 G% ?9 m
fclose(fp);
}
char s;/ E5 {2 Q+ o. }( k7 m8 E
cout<<"请随便输入一个字符，按回车退出程序！\n";# \9 [$ r* F, h# V! ]2 ^# s) j
cin>>s;1 W" O& j- ]# K8 J- k; i4 R: k& A* x
return 1;9 _& d) m* g- Q! d; h
}