动手写搜索引擎:构建个人版Google

5星 · 超过95%的资源 需积分: 10 51 下载量 120 浏览量 更新于2024-07-27 1 收藏 3.33MB PDF 举报
"《自己动手写搜索引擎》是罗刚撰写的一本书,旨在引导读者了解并构建自己的搜索引擎。书中深入浅出地介绍了搜索引擎的基本原理和技术,包括Google神话、搜索引擎的体验、以及如何创建一个简易版的搜索引擎。内容涵盖网络蜘蛛、全文索引结构、Lucene与Nutch等全文检索引擎,以及用户界面的设计。此外,还详细讲解了如何获取海量数据,如网页、MP3、RSS、图片等,并涉及数据库内容和本地硬盘文件的抓取。在文本内容提取部分,书中不仅讨论了HTML文件的处理,还涵盖了非HTML文件如PDF、Word、Excel、PowerPoint等的文本提取,以及流媒体内容的处理。最后,作者介绍了自然语言处理技术,特别是中文分词的处理方法。" 这本书首先介绍了搜索引擎的背景,通过Google神话激发读者的兴趣,然后逐步引导读者体验搜索引擎的使用。第一章告诉读者,建立搜索引擎并非遥不可及的事情。第二章详细阐述了搜索引擎的基础技术,包括30分钟快速实现的简单搜索引擎,以及商业搜索引擎的各种类型,如通用搜索、垂直搜索、站内搜索和桌面搜索。 第三章的重点是如何获取大量数据,包括自建网络蜘蛛抓取网页、数据库内容以及本地文件。BerkeleyDB作为存储工具被提及,同时介绍了如何抓取不同类型的在线内容,如MP3、RSS和图片,以及针对特定行业的数据抓取。对于数据库内容,书中提到了数据视图的构建和增量抓取。 第四章主要探讨了如何从各种文档中提取文本内容,不仅涉及HTML文件的解析,还讲解了如何从非HTML文件如TEXT、PDF、Word、Rtf、Excel和PowerPoint中提取文本。对于应对抓取限制,书中也提供了一些策略。 第五章则转向自然语言处理,特别是中文分词,这是搜索引擎理解和处理中文文本的关键步骤。书中介绍了Lucene中的中文分词技术,并提到了其他相关工具和处理方法。 《自己动手写搜索引擎》是一本全面介绍搜索引擎技术的书籍,适合对搜索引擎技术感兴趣的读者,无论是初学者还是有一定基础的开发者,都能从中获益。通过这本书,读者可以了解到搜索引擎从数据抓取、文本处理到分词搜索的全过程。