python爬虫正则表达式xpath获取子网页网址

使用Python爬虫获取子网页网址时，可以使用正则表达式或XPath来提取网址。

1. 正则表达式

正则表达式是一种用来匹配字符串的强大工具，可以用来提取子网页url。

例如，可以使用Python的re模块来实现正则表达式匹配：

import re
import requests

# 发送网络请求并获取网页内容
url = 'http://example.com'
html = requests.get(url).text

# 定义正则表达式
pattern = '<a.*?href="(.*?)".*?>'

# 使用正则表达式提取子网页链接
links = re.findall(pattern, html)

# 打印结果
print(links)

2. XPath

XPath是一种XML路径语言，可以用于定位和选择XML文档中的元素或节点。在爬虫中，可以使用XPath来提取子网页url。

例如，可以使用Python中的lxml库来实现XPath选择器：

import requests
from lxml import html

# 发送网络请求并获取网页内容
url = 'http://example.com'
html = requests.get(url).text

# 使用XPath选择器提取子网页链接
tree = html.fromstring(html)
links = tree.xpath('//a/@href')

# 打印结果
print(links)

以上是两种获取子网页网址的方法，可以根据个人需要选择适合的方法。