数学建模社区-数学中国

标题: 手把手教你写脚本引擎(三)——简单的高级语言(1,基本原理) [打印本页]

作者: Vir    时间: 2012-10-21 11:46
标题: 手把手教你写脚本引擎(三)——简单的高级语言(1,基本原理)
手把手教你写脚本引擎(三)——简单的高级语言(1,基本原理)
陈梓瀚
华南理工大学软件本科05级
vczh@163.com
http://www.cppblog.com/vczh/
  L$ d& t$ a& B! ]- ?
这一篇文章开始讲述如何实现一个高级语言的脚本引擎了。由于工程量较为庞大,因此将分开几篇文章讲。学习做脚本还是要从简单的东西做起的。上一篇文章介绍的命令脚本为实现高级语言的原理做了铺垫。首先,高级语言和低级语言脚本的架构是一致的。其次,为了具有较大的优化的空间,我们将把高级语言转换成低级语言,并配合一个低级语言的脚本引擎来实现高级语言的脚本引擎。当然,习惯上,在这种情况下我们把低级语言叫『指令』。
2 p$ J$ D" g. D0 T7 z
) d6 j6 Q6 h  ^* X. l- ]8 w/ v在这个阶段,我们实现的这门语言是非惰性计算的、弱类型的、仅支持基本类型、数组和函数指针的语言。作为扩展,隐式类型转换和函数重载也将包含在这几篇文章的主题中。好了,开始介绍语法吧。2 \3 l) t) w$ k9 f) O6 h' ]) i- n

! f7 E$ [# L, F6 H为了免去分析C语言函数指针声明的一堆麻烦问题,在这里我借用了pascal的语法。我们将构造出一门非常类似pascal的语言出来。
4 n' e* h- A3 p# Y2 Z  _7 \2 i8 A- Y+ Y- j4 v# O+ v  F  d
文件结构:6 f4 f- u& h( _# I7 O6 r9 E. b
我们将实现的高级语言脚本是支持多文件的。脚本引擎总是需要外部函数的。为了方便的让宿主程序提供外部函数的声明,因此我们做成了多文件的脚本引擎。也就可以有类似C语言#include那样子的东西了。pascal有一个奇怪的注释规则:使用大括号注释。
6 ?9 `9 x. v6 e8 Y* e: s
1 a! e( n9 x' s8 V* B结构如下:+ w; \2 l5 O# M7 y* j) J6 v3 u
unit 单元名;
+ p# ?9 s2 d3 c' s& H. q( ~( c$ }
uses 单元名1,单元名2,……;, _- w% T% \1 @/ w3 h% d6 O
, s: @! L. }& ]7 w
type+ j+ g& Z' N/ Z! c; T1 p& {
新类型名称=类型声明;, e- j, q+ H$ C  m) J- z& r/ O8 A
……
6 D8 z' I( J. y" ?& i
  r* k' A% [8 q1 B6 R5 g$ a! nvar& H1 y4 Q9 J9 y; v5 `7 ~
变量名组:类型;
; y/ Z, r+ V: o9 J; X……
4 _% O; u* x7 y6 B  l5 {0 z, u* I. l. _
interface# s+ ^, w6 Q6 F. n" h, \' `
公开的函数声明;
1 I, l- f/ b3 i9 p, ]
  _) s8 x0 T- n  I* O; himplementation
8 K7 ~8 E$ _' i7 y公开和非公开的函数实现(非公开函数不需要声明)
7 S4 ]& m- N7 l+ aend.% H7 R# s& A) E5 {  H
/ O! P4 \% R3 z5 S
对于语言本身来说,type和uses最好应该属于interface和implementation的。不过我们为了方便,姑且就这么做吧。不然的话,既不能揭示更多的原理,又给自己添麻烦。
9 Q" h, m$ w2 K
- n% S3 F. p* M( T类型声明:
1 y" v  X# W1 J1 x2 B) j/ O) s类型声明有普通类型、数组类型和函数指针。
- Q) Z5 h+ U7 K5 Q; {: _9 H普通类型有boolean、integer、real、char和string。
9 L  @3 X" f3 A) Y- P' w7 t2 ]( D3 P4 ?数组类型的声明方法是array of 类型。2 R; i. _- B2 s/ I2 ^/ C
函数指针的声明方法跟函数声明一致,唯一的区别是函数指针不可出现函数名。譬如我们需要一个输入两个整数输出一个整数的函数指针,我们写:4 a$ Q& \: z- g* W: m
type MyPointer=function(a,b:integer):integer;
( J, ]6 ?9 Z% f' S0 u4 \8 [' Q! P- ^. S) r
函数声明:
3 }7 Y" ~* @8 Vpascal的函数根据有没有返回值的区别使用不同的语法。基本语法如下:
' H, T/ P% ~) m3 ]procedure 函数名(参数表)和function 函数名(参数表):返回类型2 M' v4 E: k/ p: S, f; ?1 L" `1 S
参数表的语法:[var]参数名组1:类型; [var]参数名组2:类型;……[var]参数名组n:类型。其中参数名组可以为多个用逗号隔开的参数名,也可以仅为一个参数名。其中var代表引用参数。/ w! j" B- D& y, P$ V; ~/ S  B

; o: m. t/ G+ ~) Z3 w8 V; w7 I函数实现:
8 j# @- Q; E6 E$ P9 K函数实现的语法由函数声明、分号、可选的变量声明、语句、分号构成。其中变量声明由var开头,后面街上多个“变量名组:类型;”构成。
/ a5 P5 Q2 {/ \! s- z7 u7 F3 [  {0 q$ G  y9 s$ r3 f
语句:4 s  F4 P6 }& s8 F; @; _
一般语句:表达式、new 类型[长度]" d' _3 \2 _8 |% {' `& K
赋值语句:变量名:=表达式/ K& W2 g+ Y+ r9 G! o* S8 `
分支语句:if 布尔表达式 then 语句 [else 语句]+ {2 n3 \. H+ I( @6 m' @2 m
循环语句:& O+ O2 @6 U. p" }9 G
for 变量:=值 to|downto 值 do 语句' z: \2 n7 c4 N3 t
while 布尔表达式 do 语句, K" S- p6 A" d' u7 W" J& v, h
repeat 语句块 while 布尔表达式' F: B& D/ h8 M- n; i7 C9 P
复合语句:begin 语句块 end: [) o; A' S8 A' `9 z! K8 e( T
命令语句:continue、break、exit- \  z! l4 d8 d- ~- A% f
语句块为多个“语句;”连接而成。
7 ^1 N/ Y% q6 m+ a6 {8 T" u  h
6 a+ t2 Z6 h, q" t5 v表达式:: c0 E7 e! R; v) D- L8 Q5 E) G- y+ w
表达式由变量、操作符、常数以及函数调用构成。支持的操作符有+、-、*、div、mod、/、and、or、xor、not。其中/的返回值一定是real,div用于两个整数的整除,mod用于求余数。在这里我们修改一下pascal的语法,我们默认字符串的下标从0开始,而不是1。$ h: K- ]/ @. A* ?* e: z
数组和字符串可以用“表达式[下标]”来获得指向元素的引用。数组赋值的时候使用引用复制,字符串也使用引用复制。不过字符串修改的时候保证不影响到其他的副本,这个工作由虚拟机完成。+ m8 t0 |! }: Z( _9 v  W9 H

+ w) n2 C5 P" k5 j. x- J; F! B! y既然有了这个简单的语法规定,我们可以试着来写一个程序。跟上一篇文章相同,我们写一个判断一个数字是否质数的函数:, o8 q  c1 e1 T3 s
unit PrimeTest;  `+ H( T0 ?( f7 B6 c: k

5 I$ y" h  h/ P/ G3 D4 {2 nuses IO;{writeln和read}
* ]0 [0 N! [1 o4 `: i& k& a
% y5 V# |& P1 N/ iinterface. j% N) _; k$ E
function IsPrime(Num:integer):boolean;3 ]  m7 d" f, |, Y8 o) ?  ?5 f* J

, c6 ^( D/ x8 d# nimplementation4 r5 l. b) [- ^+ n, [% L! o
/ L  |8 ^. a& B7 Y3 @
function IsPrime(Num:integer):boolean;3 s% z8 N4 F5 O  z: t' r- _: c
var i:integer;
# _+ A8 ~4 g, y! C# xbegin
4 L) W5 Q7 n  s' x- Wresult:=true; {这是delphi设置返回值的方法,此处借用。exit用于退出函数,result变量仅仅用于设置返回值}
: e' ~+ N0 |; k& ~$ Z8 E/ W0 [if Num<2 then1 G- X2 D5 J' K: L
result:=false;5 A. a5 m' ]9 M2 @& F8 ~% `
else if Num>2 then
1 J5 d( D+ S: @) K3 Ofor i:=2 to Num-1 do! D. u0 k* G* a! i
if Num mod i=0 then
1 U0 Q8 Y% |% [( I' jresult:=false;* I3 }! n; @4 ^" c' k; |
end;0 s/ c1 O/ c+ U/ A. s7 _
4 ^3 p2 k% a4 C
end.& j4 o) ^) E" x

! K! l! ^' ]6 b0 c) A' ?* c语法的介绍就到此结束了。在这里发一下牢骚。虽然我们知道C++很强大,但是其语法却是很不利于分析的。举个例子:
/ z1 @' f" T: ^- J4 }. X( @- sA*B;知道是什么吗?乘法?指针声明?
! E0 \+ z3 R5 k$ g1 ^) t$ O9 |a<b,c>d;知道是什么吗?逗号表达式?一个类型为某模板类的变量?: i' @& h- T# E9 D8 P8 [  x+ ^
因此,各位有志于分析C++语法的大大们注意了,传统的先语法分析后语义分析的方法在C++面前基本上是一点用都没有。如果你不知道上述代码中两个A代表着什么(类型还是对象),你就无法正确得到你想要的语法树,那么你就惨了。所以,要分析C++,想个办法吧语法分析和语义分析揉在一起吧。在这里我很想知道早期的gcc为什么能用yacc来搞,用yacc写出来的C/C++编译器的代码肯定很难看的,虽然写得出来。8 ~2 H. D: L7 T: h0 ?3 ]! Y
! t" T, b- g1 J
回到我们的主题中。这个语言拥有可以递归调用的函数以及全局变量,我们需要准备一个堆栈和一个堆才可以支撑所有的内存操作。堆栈有很多种实现的方法,可以放在堆里也可以不放在堆里。这个决策将对接下去的指令集将会有一点小影响。
& H- x  I4 _: h$ R( O* W" w/ O+ x/ p5 E- q5 [
现在让我们考虑一下各种类型的结构。首先,boolean、integer、char和real都是实体类型,只需要那么一段数据就行了。在32位的机器上分别是1、4、1、8个字节。其次是函数指针。我们可以使用一个全局的ID指向一个函数,就跟我们拿函数去编号一样,一个函数一个编号。那么,函数指针跟integer就一致了,区别在于函数指针不能计算也不能转换类型。
6 l# a) s+ V/ u  {4 Y2 V4 F. O8 B; j6 @* ]# b# N
接下来是字符串和数组,字符串和数组的结构都是一致的,我们可以使用引用计数来达到垃圾收集的功能。根据类型理论我们可以知道我们刚刚设计的语言是不可能存在内存泄漏的(如果所有的数据都只让脚本修改)。于是,我们可以让数组和字符串的结构如下:" L4 @2 s6 a, n
[引用计数:int][数据]7 w! h5 u* j! N+ j
当创建一个数组变量的时候,我们让数组的值为nil,让其为空,需要使用new创建一个数组。new创建的数组的引用计数是1。如果这个数组被复制的话,那么引用计数也会随之增大。当引用计数为0,也就是所有的变量都不指向这个数组的时候,数组就该释放了。而且刚刚设计的这门语言是保险的,也就是说,只要我们无法访问到这个数组,那么这个数组就一定会被释放。至于原因就留给大家思考了。
& J2 w0 R; z* U( u! b% K5 o4 ~+ M& b0 K' c6 W
字符串的结构跟array of char是一致的,但是字符串有一个特殊的地方。我们将一个字符串赋值给另一个字符串的时候,两个字符串变量其实指向相同的空间。但是我们对其中一个字符串进行修改的时候,是不影响到另一个字符串的。我们可以在修改之前将被修改的字符串进行复制。举个例子:1 c% I, c, l0 k5 o4 @% p' Z& U
a="vczh";+ F! |. U/ q4 A  x
b=a;
* ?) x! j& R* F这个时候字符串的引用计数是2。当我们修改b(而不是对b赋值),譬如说b[0]= 'V'的时候,我们对b进行复制。这个时候内存中就有两个引用计数为1而且内容都是vczh,但是指向的空间不同的字符串了。这个时候我们对b指向的空间进行修改的时候,a指向的空间是不变的。这种方法是经常被使用的。
% H2 ]: V* _: y% \* z( m' @2 c2 s/ j# f2 b6 j
接下来我们考虑堆栈的构造。堆栈是用来存放不支持闭包的语言的函数中的参数和变量的。对于我们刚刚说的这门语言来说,堆栈是相当合适的数据结构。堆栈是分段的,一个段记录的内容有参数、变量、临时信息、函数参数起始位置以及函数的执行位置。函数的执行位置用于记录当前函数在调用新函数之前所执行的指令。有了这个信息之后,我们就可以在函数返回的时候找到合适的指令继续执行了。
1 `& Y6 X% m+ F; ^% v. A
1 U8 X; O" ~3 P* Y' w5 g6 G如果堆栈中存放字符串或者数组的话,在堆栈的一个段被销毁的同时,我们需要减少相应的字符串或数组的引用计数,并在适当的时候释放他们。那么,我们如何知道堆栈的什么地方记录着什么类型的变量呢?因为表达式也会频繁地使用堆栈的临时空间进行计算,因此类型信息有必要放在堆栈里面。如果不这样做的话,我们就要在指令集里面加入各种不同的pop指令,并在函数的很多地方使用。这两种做法各有利弊,在实现的时候需要衡量一下。) o8 ^6 R( A+ r/ n) v

0 O  O# y* l; R9 X5 t; ]3 ~/ s- K函数调用的时候需要大量更改堆栈的内容。在这里我举一个例子。已知如下代码:
: E! {) q7 ~* P+ }1 V- s$ tfunction A(x:integer):integer;, b5 R, Q7 l! A: m) z. x! x. V
begin
0 l4 u: L, A. eresult:=B(x+1,x-1);. h7 B/ m, m* F$ }+ @
end;
! H$ H, J% y9 |) z! k( @- E' K4 k5 J& y9 Y2 b3 a1 k0 O
function B(x,y:integer):integer;: v) Y& @% N, R7 Y5 h) Q
begin
: v$ G  A, A' u2 m$ B7 Presult:=x*y;
% j/ }* p6 v# bend;5 R* e  D! U( W6 I; Y+ T1 c8 C

4 F; E( t6 N6 W, C9 ?& w! m我们可以假想出一个编译后的指令:
  l8 E; K! c! l/ b1 vFUNCTION_A:$ r5 T5 A/ M4 N# v/ q% o4 A; \. Q
00 push x;, F5 n2 Z5 U6 p$ |
01 push 1;0 k2 Y& y, c, r' a
02 add;% I7 ^: ]0 Z9 R7 ^1 W8 {
03 push x;) X- k7 r1 w* d6 Y) q
04 push 1;6 A9 F/ d' _8 @
05 sub;
, A' J+ [* I/ ~3 V' E) P06 call FUNCTION_B;
) P- o% j* K8 F07 pushref result;
1 e6 l9 Z) r0 F& I2 S08 assign;
, X% y/ U- S3 W" G* T$ _( N# b09 ret 1;
- \2 w9 O% p/ e' U9 i4 R) ]' VFUNCTION_B:$ H5 y0 f8 v  H  z  h: J/ b
10 push x;
& ]  }6 E/ [% y* u% s# U, p  n11 push y;
/ j9 |  h$ I/ G! @+ _  j0 S12 mul;
& t3 j$ R& g. c4 D13 pushref result;5 d6 H3 w$ `! s% h+ ~4 g  |4 h+ |
14 assign;1 v3 }. M2 e: c* M
15 ret 2;
" ?  q8 ~) t4 i2 |, S+ f2 r  s2 a# T# J$ D$ X/ i
当我们执行A(5)的时候,堆栈如下:
$ _7 c- D1 p3 @. z  H4 o; r2 u
, p2 [% z9 v8 J  h( m4 o- g! x地址 内容- c" d1 K* [8 f3 g4 I2 X$ e8 N
<以前的内容>
7 P" w4 @1 \% t4 G$ {) O& \& M100 5{x}/ f7 P7 }+ Z' {9 b  X
104 0{result变量}  l+ q* i0 @8 }+ r( F1 Y- @
108 100{FUNCTION_A参数起始地址}& _2 P6 Y1 {4 h2 k. W. @  w, ~  P
112 ×××{FUNCTION_A返回的时候的地址} * A/ U$ W( D/ i1 Y% Q: _9 a9 c& `

( C7 D( s: P- q- A好了,我们一直执行指令,直到05(sub;)。这个时候堆栈上有了x+1和x-1两个数:( w9 U: {4 k1 p! ]# |/ e

8 w4 T4 J6 ^, J* s地址 内容4 S! T: U! z+ V* P* q
<以前的内容>
! C* J& S  O+ T! ^; D100 5{x}
  j; @2 ^/ ~- B; t104 0{result变量}; v8 [: P+ O. w
108 100{FUNCTION_A参数起始地址}! b2 f% G3 j: Q  m" M) Q( [
112 ×××{FUNCTION_A返回的时候的地址}
4 H' v/ ^2 ~; i116 65 Y! B! p2 R4 a  ~0 J
120 4( A5 l, n* V* B

* @" ], \. L% U8 _+ \现在执行06(call FUNCTION_B;),堆栈变成这样:: Q' U. y. b+ [) {3 h! O
% U9 H. Y% s! D6 F0 y" x1 C
地址 内容  S; g5 k* f  A5 n- b, w, @
<以前的内容>
6 g/ V4 o2 B  O100 5{x}3 p- @8 e# y, E: f/ Q& ^! ^# D5 K
104 0{result变量}
. z8 I0 C2 f& L( O108 100{FUNCTION_A参数起始地址}4 J  Y! |0 _/ f* N
112 ×××{FUNCTION_A返回的时候的地址}
. x; v* I/ P  S2 f1 ^0 o( [+ Q% ^116 6
2 o- O( w+ z+ u9 |  }5 J120 4) {) b2 W9 w: m% `( R9 s
124 0{新的result 变量}# l1 [4 t8 d1 z6 W
128 116{FUNCTION_B参数起始地址}
/ y' t  y5 f3 Q/ f/ f132 07{FUNCTION_B返回的时候的地址,指向pushref result;指令}! v/ S! v# S9 @8 v  M

* B, \' S( N9 i3 y- c& E/ T- @然后一直执行,终于FUNCTION_B执行完了,到了15(ret 2)。
# X1 p1 V" e0 q) C' h( O% P; Z5 V8 O* a+ Z
地址 内容
( x! g) a- a! ~& {/ T' W3 \. _<以前的内容>
9 n3 i2 f6 k+ b& d! B100 5{x}! u4 h( c4 e( W. e
104 0{result变量}
: y/ F: `' h9 x- U5 C5 I3 ?108 100{FUNCTION_A参数起始地址}- R- j8 \. F" n, j- N
112 ×××{FUNCTION_A返回的时候的地址}
5 m+ ~/ E6 E- d  d! R; A* r: |2 v116 64 [, }6 A) W' o$ i6 R
120 4
9 K9 H8 S- J9 Y9 ]. X4 C) S124 24{新的result 变量,被更改}7 `( r( n( k6 R( Z8 Z, v
128 116{FUNCTION_B参数起始地址}" I" r! {4 m( k; i3 g$ V% t- k$ U+ ~
132 07{FUNCTION_B返回的时候的地址,指向pushref result;指令}
  i, @( X5 L; h5 c; Z" X# A: M# A
) G! K) t: i3 b, l% n& F; _9 V于是执行15(ret 2)。ret 2的意思是属于FUNCTION_B的参数和变量一共有2个。虚拟机寻找有没有字符串和数组,发现没有。这时,虚拟机将132处的返回地址07拿出来,并将124处的函数返回值24保存好,最后将堆栈顶部重新指向116,并push函数返回值。这个时候堆栈如下:3 g) I1 x3 Q- L% s) Z: p

. r) x" ~. Z& e& N! Y! S地址 内容0 ^6 y# W" E8 ?4 x- x4 C
<以前的内容>3 X# e8 f  x+ b2 s
100 5{x}8 l, Q$ o# T% i# s- ]2 ?
104 0{result变量}
; n( X9 x" |8 v3 h- N" N108 100{FUNCTION_A参数起始地址}: V$ h  V) m1 B5 q5 C
112 ×××{FUNCTION_A返回的时候的地址} % V; a- f0 e8 k" b
116 24{函数执行结果}
- i1 `' @# D* F2 D# m9 v* K7 @7 r# j# c' t1 H, i
这就是一次函数调用和函数返回之后堆栈中数据的变动了。当然,我们可以加入新的指令以调整result变量、函数参数、起始地址以及返回地址的位置,让call和ret指令轻松一些,效率也提高一些。不过这是后话了。事实上上述指令中ret指令的参数是需要一个函数的参数表和变量表才能正确工作的。不同的解决方案中的ret有不同的意义。& X  n1 A: Q7 L+ i. e  ^
+ S, R# ^0 `- Y  P, T4 B
这篇文章就到此为止了。刚刚开始实习,杂七杂八的事情比较多,因此写文章的速度会慢一些。下一批文章将讲述如何对我们构造的一门脚本语言进行语法分析以及语义分析。语法分析和语义分析主要还是用来分析代码并检查语法错误的,并附带给出一个描述语言的数据结构,用于接下来的代码生成等问题。: B; J# _, K! I( F% M" i. ]

作者: jt202010    时间: 2012-10-21 12:06
真的太有才了




欢迎光临 数学建模社区-数学中国 (http://www.madio.net/) Powered by Discuz! X2.5