登录 用户中心() [退出] 后台管理 注册
   
您的位置: 首页 >> 程序员学前班[不再更新,只读] >> 主题: Yacc 与 Lex 之陷井     [回主站]     [分站链接]
标题
Yacc 与 Lex 之陷井
clq
浏览(0) + 2010-08-06 12:47:53 发表 编辑

关键字:

学 Yacc 与 Lex 发现资料少得可怜,中文翻译的书居然只有一本比 symbian 那个 "sb" 开发的书还要少(那个好歹有三本)。按网上那些教程的话得走很多弯路,一些前辈的例子也是代码为主基本上没说什么注意事项的,有时候会让人更糊涂。因此把我遇到的一些问题列出来。

clq
2010-8-6 13:00:59 发表 编辑

首先一个是 yylval 的变量,默认是 int 这个是可以改变的,教程一般说改为 double 试试(比如著名的“龙书”)或者 char *,我在这之前写过很多 #define YYSTYPE double 基本上没什么问题但在某些时候会出现莫名其妙的值,特别是出现无论如果接收后都是 0 的情况,我想也许是 linux 的编译器对非法语法兼容性太高,可能有些代码没写好造成的。后来我想换 std::string 试试,没想到根本过不去,老是提示  yylval 不能接收 char * 的 yytext 。最后看了 yacc (其实是 bison ) 生成的代码才发现原来生成的 x.tab.h 中会重新定义 YYSTYPE 为 int的并且会立即定义 yylva 这样我们在后面再定义 YYSTYPE 其实对 yylva 是不起作用的。所以要在 lex 和 yacc 的源文件头上都加上

#define YYSTYPE std::string
#define YYSTYPE_IS_DECLARED 1

后者的定义也是我看源码才知道要定义的。另外这样的代码用 gcc 是编译不了的,要用 g++ 但是又会提示某些语法不合法,主要是一些函数的声明,可以在 lex 的源文件中这样

//#include "1.tab.h"//这个要放在后面,要不然 YYSTYPE 的重新定义会无效

//extern double  yylval;
#define YYSTYPE std::string
#define YYSTYPE_IS_DECLARED 1

#include "1.tab.h"//这个要放在后面,要不然 YYSTYPE 的重新定义会无效

#if (defined __cplusplus)
extern "C"{
#endif

int yywrap(void);
int yylex(void);

#if (defined __cplusplus)
}
#endif

完整代码附后。

clq
2010-8-6 13:01:17 发表 编辑

%{
#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <string>
#include <iostream>

//#include "1.tab.h"//这个要放在后面,要不然 YYSTYPE 的重新定义会无效

//extern double  yylval;
#define YYSTYPE std::string
#define YYSTYPE_IS_DECLARED 1

#include "1.tab.h"//这个要放在后面,要不然 YYSTYPE 的重新定义会无效

#if (defined __cplusplus)
extern "C"{
#endif

int yywrap(void);
int yylex(void);

#if (defined __cplusplus)
}
#endif


int atoi2(char * s)
{
    int i = 0;
    int len = strlen(s);
    int n = 0;
    int base = 1;
    
    for(i=len-1; i >= 0; i--)
    {
        n += base * (s[i]-'0');
        //printf("atoi %d %c ", n, s[i]);
        
        base *= 10;
    }
    
    return n;

}        


%}
dfloat [0-9]*\.[0-9]+
dint   [0-9]+
dvar   [a-zA-Z][a-zA-Z0-9]*

%%
                
{dvar}      {printf("Var     : %s\n",yytext);return  (  LETTER  );}

{dfloat}    {printf( "%f...",  (double)5L ); printf("Float   : %s:",yytext); /*yylval = atof(yytext); printf( "yylval:%f\n", (double)yylval ); */ return  (  DIGIT  );}
{dint}      {printf("Int     : %s\n",yytext); yylval = yytext;  /* yylval = yytext[0] - '0'; yylval = atoi2(yytext); */ return  (  DIGIT  );}

[ \t\r]+    ;    /* white space */

\n|.            { return yytext[0];}
%%


int yywrap(void)
{
        return 1;// 只处理一个输入文件
}


clq
2010-8-6 13:01:31 发表 编辑

%{
#include <stdio.h>
#include <ctype.h>
#include <stdlib.h>
#include <string.h>
#include <iostream>


#define YYSTYPE std::string
#define YYSTYPE_IS_DECLARED 1

YYSTYPE  regs[26];
YYSTYPE  r;
        

#if (defined __cplusplus)
extern "C"{
#endif

int yywrap(void);
int yylex(void);
void yyerror(char *s);

#if (defined __cplusplus)
}
#endif

%}

%token  DIGIT  LETTER

%left  '|'
%left  '&'
%left  '+'  '-'
%left  '*'  '/'  '%'
%left  UMINUS      /*  supplies  precedence  for  unary  minus  */

%%      /*  beginning  of  rules  section  */

lines :   lines expr '\n' {std::cout << $2; /*r = $2; r += 1; printf("return:%f\n", (double)(0.1f+r));printf("return:%d\n", (double)$2);printf("return:%g\n", $2);*/}
     |    lines  '\n'
     |
     ;


expr    
     :    expr  '+'  expr             {  /* $$  =  $1  +  $3; */ }
     |    expr  '-'  expr             {  /* $$  =  $1  -  $3; */ }
     |    expr  '*'  expr             {  /* $$  =  $1  *  $3; */ }
     |    expr  '/'  expr             {  /* $$  =  $1  /  $3; */ }
     |    '('  expr  ')'              {  /* $$  =  $2;        */ }
     |    '-'  expr                   {  /* $$  =  0 -  $2;   */ }
     |    LETTER                      {  /* $$  =  regs[0];   */ }
     |    DIGIT
     ;


     ;

%%


int yylex_old() {      /*  lexical  analysis  routine  */
              /*  returns  LETTER  for  a  lower  case  letter,  yylval = 0  through  25  */
              /*  return  DIGIT  for  a  digit,  yylval = 0  through  9  */
              /*  all  other  characters  are  returned  immediately  */

     int  c;

     while(  (c=getchar())  ==  ' '  )  {/*  skip  blanks  */  }

     /*  c  is  now  nonblank  */

     if(  islower(  c  )  )  {
          yylval  =  c  -  'a';
          return  (  LETTER  );
          }
     if(  isdigit(  c  )  )  {
          yylval  =  c  -  '0';
          return(  DIGIT  );
          }
     return(  c  );
     }


void yyerror(char *s)
{
  fprintf( stderr, "%s\n", s );
}

int main()
{
    return( yyparse() );
}

clq
2010-8-6 13:02:43 发表 编辑

编译

flex 1.tl
bison -d -v 1.y
g++ lex.yy.c 1.tab.h 1.tab.c -lm -ll -o o1


clq
2010-8-6 13:03:43 发表 编辑

http://hi.baidu.com/qiyu_sdu/blog/item/9cc00eda31e3aad9b6fd484b.html

这个是网友用 c++ 使用的例子:

yacc(6) 解析C/C++包含文件
2007-07-29 上午 09:33

我 们知道对于C/C++包含文件声明是为程序提供了一些库存的功能,因此存在一种依赖 关系,如果把这种依赖关系表达成为Makefile的形式,那么就可以自动生成Makefile 。在这一章里面并不会实现自动生成Makefile的功能,而是仅仅解析出所有的包含文 件名,并记录下来。

1. 分析

我们知道C/C++中存在两种形式的包含文件,一种是用“<>”包含的头文件, 一种是“""”包含的头文件,这两种不同的形式表达了头文件的不同的搜索方式。 另外还需要注意的是:这两种方式包含的都是磁盘上存在的文件名。也就是说,只 要是磁盘上存在的文件名都可以包含的,都是合法的,因而C/C++里面存在的有扩展 名的头文件和没有扩展名的头文件都是合法的。并且还需要注意的是C/C++包含的头 文件是可以续行的。

因而总结起来需要做到如下的几件事情:

  1. 处理“<>”和“""”两种包含方式

  2. 处理文件名

  3. 处理续行

2. Lex文件

%{
#include "main.hpp"// 在其中保存了记录头文件所需要的所有数据结构
#include "frame.tab.h"// 由Yacc自动生成的所有标记声明,实际上都是C宏
extern "C"{
int yywrap(void);
int yylex(void);
}
%}
%x _INCLUDE_
%x _INCLUDE_FILE_
%%
"#"[ \t]*"include"      {
                                BEGIN _INCLUDE_;// 进入_INCLUDE_状态
                                  yylval.clear();// 需要将所有的Include值初始化
                                return INCLUDE;// 返回INCLUDE标记
                        }
<_INCLUDE_>[\"|<]       {
                                BEGIN _INCLUDE_FILE_;// 进入_INCLUDE_FILE_状态
                                return *yytext; // 返回引号或者尖括号
                        }
<_INCLUDE_FILE_>[^\">]* {
                                  yylval.headerfile+=yytext;// 记录头文件字符串
                                return HEADERFILE;// 返回头文件标记
                        }
<_INCLUDE_FILE_>[\"|>]  {
                                BEGIN INITIAL;// 恢复到初始状态,默认状态
                                return *yytext;// 返回引号或者尖括号
                        }
[ \t\n]                   ;// 对于额外的空白都不处理直接扔掉
%%
int yywrap(void)
{
        return 1;// 只处理一个输入文件
}

3. Yacc文件

%{
#include <iostream>
#include "main.hpp"
#define YYDEBUG 0 // 将这个变量设置为1则表示启动Yacc的调试功能
extern "C"{
void yyerror(const char *s);
extern int yylex(void);
}
std::vector<Include> g_Includes;// 用来记录所有的包含声明
Include               *g_pInclude;// 用来保存新增的包含声明信息的指针
%}
%token INCLUDE
%token HEADERFILE
%%
program:/* empty */
          | program include_preprocess // 用这种递归的方式从有限的标记表达出无限的内容
          ;
include_preprocess:
            INCLUDE '<'    HEADERFILE '>'
        {
                // 注意这里的$3,实际上就是上面的标记的第三个的意思
              // 因为yylval被声明为Include结构,参见main.hpp文件
              // 因而每个标记都是Include结构类型。
                g_Includes.push_back(Include());
                g_pInclude = &g_Includes.back();
                g_pInclude->clear();// 初始化
                g_pInclude->headerfile     = $3.headerfile;// 可以证明$3的类型就是Include类型
                g_pInclude->is_angle       = true;// 是尖括号
                g_pInclude->is_quotation = false;// 不是双引号
        }
          | INCLUDE '\"' HEADERFILE '\"'
        {
                // 值得说明的是:上面的include_preprocess用$表示,
              // 而不是用$0表示。从左向右依次为:
              // include_preprocess          $
              // INCLUDE                     $1
              // '\"'                        $2
              // HEADERFILE                  $3
              // '\"'                        $4
                g_Includes.push_back(Include());
                g_pInclude = &g_Includes.back();
                g_pInclude->clear();// 初始化
                g_pInclude->headerfile     = $3.headerfile;
                g_pInclude->is_angle       = false;// 不是尖括号
                g_pInclude->is_quotation = true;// 是双引号
        }
          ;
%%
void yyerror(const char *s)
{
          std::cerr<< s << std::endl;
}
int main()
{
#if YYDEBUG
          yydebug = 1;
#endif//YYDEBUG
          yyparse();// 进行语法分析,这个函数是Yacc自动生成的
        // 下面的这行代码仅仅使用了STL的输出算法到标准输出
          std::copy(g_Includes.begin(),g_Includes.end(),std::ostream_iterator<Include>(std::cout,"\n"));
        return 0;
}

4. main.hpp文件

#pragma once
#include <iostream>
#include <string>
#include <vector>
#include <algorithm>
#include <iterator>
// 对于每一个项目最好都用一个独立的数据结构来保存相应的信息
struct Include
{
        void clear();// 设置Include的初始值
          std::string headerfile;// 记录头文件全名(包括路径)
        bool is_quotation;// 是否是双引号""括起来的头文件
        bool is_angle;// 是否是尖括号<>括起来的头文件
        // 下面的这个函数仅仅是用来输出到C++流而准备的
        friend std::ostream&operator<<(std::ostream&s,const Include&I);
};
std::ostream&operator<<(std::ostream&s,const Include&I);
// 下面的这个宏定义用来取消Lex和Yacc默认的YYSTYPE定义,因为默认的YYSTYPE定义
// 仅仅只能够记录整数信息,因此要保存额外的信息必须这样定义宏,可以参见Yacc
// 自动生成的标记头文件frame.tab.h。
#define YYSTYPE Include

5. main.cpp文件

#include "main.hpp"
// 初始化所有的Include信息,避免前后关联
void Include::clear()
{
          headerfile.clear();
          is_quotation = false;
          is_angle = false;
}
// 为了能够方便输出,在这里直接准备好了一个流输出函数
std::ostream&operator<<(std::ostream&s,const Include&I)
{
        if(I.is_angle)
                  s << "采用尖括号的" ;
        if(I.is_quotation)
                  s << "采用双引号的" ;
          s << "头文件:[" << I.headerfile << "]" ;
        return s;
}

6. Makefile文件

LEX=flex
YACC=bison
CC=g++
a.exe:lex.yy.o frame.tab.o main.o
        $(CC) lex.yy.o frame.tab.o main.o -o a.exe
lex.yy.o:lex.yy.c frame.tab.h main.hpp
        $(CC) -c lex.yy.c
frame.tab.o:frame.tab.c main.hpp
        $(CC) -c frame.tab.c
main.o:main.hpp main.cpp
        $(CC) -c main.cpp
frame.tab.c frame.tab.h:frame.y
        $(YACC) -d frame.y
lex.yy.c:frame.l
        $(LEX) frame.l
clean:
          rm -f *.o *.c *.h

7. sample.cpp文件

#include <iostream>
#include <string>
#include <ffmpeg/avformat.h>
#include <ffmpeg/avcodec.h>
#include <ffmpeg/avutils.h>
#include <stdio.h>
#include <stdlib.h>
#include "hello.h"
#include "../hello.h"
#          include "space.h"

8. 运行结果

pandaxcl@PANDAXCL-F78E7D /d/work/lex_yacc/chapter06
$ make
flex frame.l
bison -d frame.y
g++ -c lex.yy.c
g++ -c frame.tab.c
g++ -c main.cpp
g++ lex.yy.o frame.tab.o main.o -o a.exe

pandaxcl@PANDAXCL-F78E7D /d/work/lex_yacc/chapter06
$ ./a.exe < sample.cpp
            采用尖括号的头文件:[iostream]
采用尖括号的头文件:[string]
采用尖括号的头文件:[ffmpeg/avformat.h]
采用尖括号的头文件:[ffmpeg/avcodec.h]
采用尖括号的头文件:[ffmpeg/avutils.h]
采用尖括号的头文件:[stdio.h]
采用尖括号的头文件:[stdlib.h]
采用双引号的头文件:[hello.h]
采用双引号的头文件:[../hello.h]
采用双引号的头文件:[space.h]

pandaxcl@PANDAXCL-F78E7D /d/work/lex_yacc/chapter06
$

9. 总结

总的来说,上面的解析C/C++包含预处理信息的时候需要了解如下的概念:

词法状态

所谓的词法状态就是指对文本进行词法分析的时候,词法分析器当前所处 的状态,默认情况下,词法分析器都处于INITIAL状态,这个INITIAL状态 是Lex内置的状态。用户可以通过%x来重新定义各种各样的状态。

至于为什么要使用状态,我们来看一个实际的例子:上面分析头文件的时候 采用了两个自定义的状态:_INCLUDE_状态和_INCLUDE_FILE_状态, _INCLUDE_状态是当遇到了#include开始的,因为这个状态之后是尖括号或者 是双引号括起来的头文件名,在后面分析模板(使用尖括号)和分析字符串 (使用双引号)的时候也会遇到尖括号和双引号,因而需要区分这两种情况 ,所以才需要使用_INCLUDE_状态,以此来区分是包含文件还是模板或者是字 符串了。这一点非常重要!

同样,状态_INCLUDE_FILE_存在也是为了区分双引号包含的头文件名称的, 因为双引号不同于尖括号,双引号在头文件名的开始和结束都是相同的,因 此为了区分头部和尾部的双引号,必须再增加一个状态。实际上这可以用来 简化词法分析器的编写,当您遇到这种类似的问题的时候可以考虑再增加一 种新的状态,通常来说就可以解决问题啦:)

不过还有一点特别需要强调的是当您感觉所添加的状态太多了,出现了混乱 现象,就说明用Lex状态已经不大适合处理这种问题了,就应该考虑采用Yacc 的一条独立的语法规则来进行处理了:)这也是Yacc语法文件存在的原因,要 不然全部都可以采用词法分析文件来解决啦,还要语法分析文件干什么!

递归表达

这里需要特别注意的是:frame.y文件中program的构成采用了左递归的形 式。从代码中可以看出:program可以是空(什么也没有)也可以是由现有 的program内容再追加一条include_preprocess类构成。当program内容为 空的时候增加一条include_preprocess类就表示program只有一条 include_preprocess内容,当program已经有了一条include_preprocess内 容之后再增加一条include_preprocess内容就可以表示两条 include_preprocess内容了,依次类推,可以表达无数的包含信息,从而 表达了无限的内容了。特别需要注意的是,这里的program表示的仅仅是现 有的内容,包括但不限于include_preprocess内容,还可以有其他的内容 ,这一点可以在增加其他内容的时候体现出来,因为C/C++源代码不仅仅是 由包含信息构成的嘛:)

特别需要注意的是,这里要特表强调一下使用左递归,不是说右递归不行,而 是出于程序运行效率考虑最好使用左递归。具体原因在后续的文档中会有详细 的说明的:)

YYSTYPE, yylval, $$,$1,$2,...$n

因为编写词法分析程序和语法分析程序的目的就是为了操作分析出来的数据 ,所以就需要有一种比较方便的形式来表达这些分析出来的数据。一种是词 法分析程序使用的方式,叫做yylval;一种是语法分析程序使用的,叫做$n ,从上面的词法分析程序和语法分析程序中已经可以看到它们在相应的文件 中的使用了。

至于YYSTYPE那就更简单了,因为要表达词法分析程序和语法分析程序中的数据 ,既然是数据,在C/C++中就有数据类型的概念,这里的YYSTYPE就是yylval和 $n的数据类型。

特别需要注意的是,语法分析程序中每一个语法规则冒号左边的类的值用$$表 示,而冒号右边的第一项用$1表示,第二项用$2表示,依次类推。

标记和值

标记指的是由%token定义的INCLUDE和HEADERFILE,他们都对应着一个具体 值,而且具体值类型还有可能完全不一样。这里需要特别强调的一点是: 每一个标记都对应着一个值,你可以不使用,但是他就是确确实实存在着 ,而且从始至终都保持着这种对应。例如上面的INCLUDE标记的值就没有使 用,但是HEADERFILE标记的值就被使用了。在Lex和Yacc中标记都是用一个 C宏定义的一个整数,而标记的值都是由YYSTYPE定义着的一个变量,这个 变量的名字就是yylval,其中保存着相关的信息,这个信息就是在词法分 析文件中进行设置的,而在语法分析文件中就直接采用了。

实际上%token还可以更进一步的简化Yacc语法程序的编写,从而避免一些不 必要的错误。从上面的语法分析来看,对于不同的$n,还需要记住$n的精确 类型和变量名,这一点其实是不必要的,可以通过%token <headerfile> HEADERFILE来声明标记,那么在Yacc程序的语法规则 中就可以直接使用$3来表示yylval.headerfile了,从而也就不需要记住那 些具体变量名啦:)

值得注意的是,尽管标记是可以用%token来定义,但是并不仅仅限于这种方 式,Yacc中还可以用%type来定义,采用%type来定义的目的就是为那些不是 标记的类也准备一个对应的值的,例如:完全可以为include_preprocess定 义一个值,用来保存一些额外的信息,不过本文中并不需要,后续的文档中 就会需要这个功能了,在此先简单说明一下:)

词法动作

对于词法分析程序中的每一个正则表达式对应的规则,都有相应的C/C++ 语句来做一些额外的处理,这个额外的处理就是词法动作。

语法动作

对于语法分析程序中的每一个语法规则,都有相应的C/C++语句来做一些额 外的处理,这个额外的处理就是语法动作。不过语法动作和词法动作的不同 之处在于,语法动作允许嵌入式的语法动作,而词法动作不行。至于什么是 嵌入式的语法动作,在后续的文档中会有详细的说明的!

好了,本章中还残留有一些问题故意没有解决,例如:包含文件的续行问题!留个 读者自己思考,可以在本文所讨论的基础上稍微改动一下就可以了。后续的文档正 在努力写出,敬请关注;)




总数:5 页次:1/1 首页 尾页  
总数:5 页次:1/1 首页 尾页  


所在合集/目录



发表评论:
文本/html模式切换 插入图片 文本/html模式切换


附件:



NEWBT官方QQ群1: 276678893
可求档连环画,漫画;询问文本处理大师等软件使用技巧;求档softhub软件下载及使用技巧.
但不可"开车",严禁国家敏感话题,不可求档涉及版权的文档软件.
验证问题说明申请入群原因即可.

Copyright © 2005-2020 clq, All Rights Reserved
版权所有
桂ICP备15002303号-1