C++编译原理词法分析入门教程:识别单词符号与内部表示

需积分: 34 10 下载量 184 浏览量 更新于2024-09-04 1 收藏 104KB DOC 举报
编译原理中词法分析是编译器构造的重要步骤,特别是在使用C++进行实现时。这个文档为初学者提供了一个实践项目,通过阅读源程序文件中的字符流,识别并转换成内部表示的二元组。以下是核心知识点的详细解析: 1. **任务目标**:从源程序中逐个单词地读取字符流,通过词法分析算法将其划分为不同的词类,如关键字、标识符、常数等,并转化为相应的内部表示形式,如种别编码和属性值。 2. **数据结构**: - 主程序中定义了关键的数据结构: - `id`数组用于存储标识符,每个标识符占30个字符的空间。 - `ci`数组用于存储常数值。 - `character`数组用于临时存储从文件中读取的字符。 - `constNum`和`biaoshifuNum`分别计数常数和标识符的数量。 - `key`数组列出了预定义的关键字列表。 - `operators`数组包含了常用的运算符。 3. **词法分析过程**: - 每个单词分析开始于输入的字符,根据字符类型(可能是第一个或第二个字符)判断其属于哪种词类。 - 对于标识符,会检查它是否在标识符表中已存在,如果存在则记录其在表中的位置,否则添加到`id`数组中并更新计数。 - 对于常数,同样检查是否在常数表中,记录位置;若不存在,则存储到`ci`数组中并增加计数。 4. **编码与输出**: - 在词法分析过程中,每个单词会被转换成种别编码,这是基于识别出的词类和可能的属性值。例如,关键字会有特定的编码,标识符和常数则可能有不同类型编码,如标识符编号。 - 分析完成后,输出每个单词的内部表示,包括种别编码和属性值,以便后续的语法分析阶段处理。 5. **代码实现**: - 提供的C++代码包括`#include`语句,用于引入必要的库函数。`std::ifstream`用于从文件读取字符流,`std::string`用于处理字符串操作。 - `int i=0`初始化计数器,用于遍历输入的字符序列。 - 使用循环结构,对输入流中的每个单词执行词法分析。 6. **调试建议**: - 代码设计应注重可调试性,确保每个单词处理的逻辑清晰,便于定位和修改错误。建议在循环结构中添加适当的断点和日志输出,便于跟踪分析过程。 这份文档提供了词法分析在C++环境下的具体实现方法,通过实际操作帮助学习者理解编译原理的基本步骤,并掌握如何将源代码分解成可处理的单元,即单词及其对应的内部表示。这对于理解和构建自己的编译器或解释器至关重要。
2011-05-14 上传
一、实验目的: 通过设计编制调试一个具体的词法分析程序,加深对词法分析原理的理解。并掌握在对程序设计语言源程序进行扫描过程中将其分解为各类单词的词法分析方法。 编制一个读单词过程,从输入的源程序中,识别出各个具有独立意义的单词,即基本保留字、标识符、常数、运算符、分隔符五大类。并依次输出各个单词的内部编码及单词符号自身值。(遇到错误时可显示“Error”,然后跳过错误部分继续显示) 二、实验预习提示 1、词法分析器的功能和输出格式 词法分析器的功能是输入源程序,输出单词符号。词法分析器的单词符号常常表示成以下的二元式(单词种别码,单词符号的属性值)。本实验中,采用的是按类来安排种别码的方式。 2、部分单词的BNF表示(可参考教材43页的状态转换图) -> ->|| |ε -> -> |ε -> + -> - -> > -> >= 3、 做词法分析器需要把对象语言的词法全部描述出来,在这我们取C语言子集,它的词法如下: (1)关键字 main if else int return void while…….. 所有的关键字都是小写。 (2)专用符号 = + - * / <= > >= == != ; : , { } [ ] ( ) (3)空格和空白、制表符和换行符。 空格一般用来分隔ID、NUM、专用符号和关键字,在词法分析阶段通常被忽略。 各种单词符号的种别码,这是一种符号一个编码的设计。只供参考! 单词符号 种别码 单词符号 种别码 main 2 [ 28 int 1 ] 29 char 3 { 30 If 4 } 31 else 5 , 32 for 6 : 33 while 7 ; 34 ID 10 > 35 NUM 20 = 37 + 22 +”,当前字符为’>’,此时,分析器倒底是将其分析为大于关系运算符还是大于等于关系运算符呢?显然,只有知道下一个字符是什么才能下结论。于是分析器读入下一个字符’+’,这时可知应将’>’解释为大于运算符。但此时,超前读了一个字符’+’,所以要回退一个字符,词法分析器才能正常运行。在分析标识符,无符号整数等时也有类似情况。 5、模块结构 见附图 三、实验过程和指导: (一)准备: 1.阅读课本有关章节,明确语言的语法,写出基本保留字、标识符、常数、运算符、分隔符和程序例。 2.编制好程序。 3.准备好多组测试数据。 (二)上机调试: (三)程序要求: 程序输入/输出示例: 如源程序为C语言。输入如下一段: main() { int a,b; a = 10; b = a + 20; } 要求输出如右图。 (2,“main”) (5,“(” ) (5,“ )” ) (5,“{ ” ) (1,“int” ) (2,“a” ) (5,“,” ) (2,“b” ) (5,“;” ) (2,“a” ) (4,“=” ) (3,“10” ) (5,“;” ) (2,“b” ) (4,“=” ) (2,“a” ) (4,“+” ) (3,“20” ) (5,“;” ) (5,“}” ) 说明: 识别保留字:if、int、for、while、do、return、break、continue; 单词种别码为1。 其他的都识别为标识符;单词种别码为2。 常数为无符号整形数;单词种别码为3。 运算符包括:+、-、*、/、=、>、=、<=、!= ;单词种别码为4。 分隔符包括:,、;、{、}、(、); 单词种别码为5。 以上为参考,具体可自行增删。 程序思路(参考): 这里以开始定义的C语言子集的源程序作为词法分析程序的输入数据。在词法分析中,自文件头开始扫描源程序字符,一旦发现符合“单词”定义的源程序字符串时,将它翻译成固定长度的单词内部表示,并查填适当的信息表。 经过词法分析后,源程序字符串(源程序的外部表示)被翻译成具有等长信息的单词串(源程序的内部表示),并产生两个表格:常数表和标识符表,它们分别包含了源程序中的所有常数和所有标识符。 0.定义部分:定义常量、变量、数据结构。 1.初始化:从文件将源程序全部输入到字符缓冲区中。 2.取单词前:去掉多余空白。 3.取单词后:去掉多余空白(可选,看着办)。 4.取单词:利用实验一的成果读出单词的每一个字符,组成单词,分析类型。(关键是如何判断取单词结束?取到的单词是什么类型的单词?) 5.显示结果。 为了设计好程序,注意以下事情: 1.模块设计:将程序分成合理的多个模块(函数),每个模块做具体的同一事情。 2.写出(画出)设计方案:模块关系简图、流程图、全局变量、函数接口等。 3.编程时注意编程风格:空行的使用、注释的使用、缩进的使用等。