Python 正则表达式爬虫使用案例解析

Python 正则表达式爬虫使用案例解析正则表达式爬虫使用案例解析

主要介绍了Python 正则表达式爬虫使用案例解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具

有一定的参考学习价值,需要的朋友可以参考下

现在拥有了正则表达式这把神兵利器，我们就可以进行对爬取到的全部网页源代码进行筛选了。

下面我们一起尝试一下爬取内涵段子网站：

http://www.neihan8.com/article/list_5_1.html

打开之后，不难看出里面一个一个非常有内涵的段子，当你进行翻页的时候，注意url地址的变化：

第一页url: http: //www.neihan8.com/article/list_5_1 .html

1. 按照我们之前的用法，我们需要一个加载页面的方法。

这里我们统一定义一个类，将url请求作为一个成员方法处理。

我们创建了一个文件，叫duanzi_spider.py

然后定义一个Spider类，并且添加一个加载页面的成员方法。

import urllib2

class Spider:

"""

内涵段子爬虫类

"""

def loadPage(self, page):

#user-Agent头

user_agent = "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT6.1; Trident/5.0"

headers = {"User-Agent":user_agent}

req = urllib2.Request(url, headers = headers)

response = urllib2.urlopen(req)

print html

以上的loadPage的实现思想想必大家都应该熟悉了，需要注意定义python类的成员方法需要额外添加一个参数self.

2.写main函数测试一个loadPage方法

if __name__ == "__main__":

"""

#定义一个Spider对象

mySpider = Spider()

mySpider.loadPage(1)

程序正常执行的话，我们会在皮姆上打印了内涵段子第一页的全部html代码。但是我们发现，html中的中文部分显示的可能是

乱码。

那么我们需要简单的将得到的网页源代码处理一下：

def loadPage(self, page):

"""