python使用xpath爬取网页

使用Python爬虫中，可以使用XPath来解析HTML/XML文档。XPath是一门在XML文档中查找信息的语言，也可以用于HTML文档的解析。在Python中，我们可以使用第三方库lxml来实现XPath的解析。具体步骤如下：

1. 安装lxml库：使用pip install lxml命令进行安装。
2. 导入库：在Python文件中导入lxml库，代码如下：

from lxml import etree

3. 获取HTML/XML文档：可以使用Python的requests库或者urllib库获取网页源代码。
4. 解析HTML/XML文档：使用etree.HTML()或者etree.XML()函数解析文档，生成Element对象。
5. 使用XPath表达式提取数据：使用Element对象的xpath()方法结合XPath表达式提取数据。

以下是一个示例代码：

import requests
from lxml import etree

url = 'http://www.example.com'
headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
response = requests.get(url, headers=headers)
html = response.content.decode('utf-8')
selector = etree.HTML(html)
title = selector.xpath('//title/text()')[0]
print(title)

上面的代码中，我们使用requests库获取了一个网页的源代码，并将其解码成了utf-8编码。然后，我们使用etree.HTML()函数将源代码解析成Element对象，接着使用XPath表达式提取了该网页的<title>标签内容，最后输出了该内容。