import numpy as np import requests from lxml import etree import numpy as np url = 'https://jn.lianjia.com/zufang/' headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/93.0.4577.63 Safari/537.36' } response = requests.get(url, headers=headers) html = response.text selector = etree.HTML(html) total_page_list = selector.xpath('//div[@class="content__pg"]/div/a/data-page') total_page_lists=np.array(total_page_list) if len(total_page_lists) > 0: total_page = total_page_lists[0] print('总页数为:', total_page) else: print('未匹配到结果')未匹配到结果怎么办
时间: 2024-04-01 18:34:24 浏览: 108
如果在运行上述代码时出现了"未匹配到结果"的提示,意味着XPath表达式没有匹配到任何元素。这种情况可能是由于以下原因之一导致的:
1. 页面结构已更改,XPath表达式不再匹配。
2. 网站防爬虫机制阻止了您的请求,无法获取HTML页面。
3. 您使用的XPath表达式不正确,无法匹配到所需的元素。
您可以尝试使用浏览器的开发者工具检查页面结构,或者尝试手动复制XPath表达式,以确保表达式正确。此外,您还可以尝试更改请求头,或者使用代理IP等方法绕过网站的防爬虫机制。
相关问题
import re import requests from lxml import etree import numpy as np import pandas as pd from lxml import etree import numpy as np import requests headers = {'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.162 Safari/537.36' } url="https://www.5iai.com/#/jobList" response = requests.get(url,headers = headers) response.encoding = 'utf8' html = response.text root = etree.HTML(html) node_list = root.xpath("//div[@class='wrap']/text()") #/ul/li/div[@class='jobInfo']/span node_list #保存为txt np.savetxt('C:/Users/11148/Desktop/daijing_list.txt',node_list,fmt='%s')
这段代码是用Python爬取了一个网站(https://www.5iai.com/#/jobList)上的数据,并将获取的数据保存到了一个txt文件中。
具体的实现过程如下:
1. 引入需要的库:re、requests、lxml、numpy、pandas
2. 设置请求头,模拟浏览器访问网站,避免被反爬虫机制封禁
3. 发送get请求,获取网页的HTML源代码,并设置编码格式为utf-8
4. 使用lxml库解析HTML源代码,获取需要的节点信息,这里使用xpath语法进行节点的定位
5. 将获取的节点信息保存到一个txt文件中,使用numpy库的savetxt函数实现
需要注意的是,这段代码中的xpath定位语句可能会因为网页结构的变化而失效,需要根据实际情况进行调整。同时,爬取网站数据也需要遵守相关法律法规和网站的使用规定,不得进行非法爬取行为。
from lxml import etree import numpy as np import requests headers = {'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.162 Safari/537.36' } url="http://finance.caijing.com.cn/insurance/" response = requests.get(url,headers = headers) response.encoding = 'utf8' html = response.text root = etree.HTML(html) node_list = root.xpath("//div[@class='main_lt']/ul/li/div[@class='wzbt']/a/text()") node_list #保存为txt np.savetxt('./caijing_list.txt',node_list,fmt='%s')
这段代码是使用Python中的requests和lxml库爬取财经网站http://finance.caijing.com.cn/insurance/上的新闻标题,并将标题保存为txt文件。具体步骤如下:
1. 导入需要的库,包括requests、lxml和numpy库。
2. 设置请求头信息,模拟浏览器发送请求。
3. 使用requests库发送GET请求,获取网页HTML源代码,并指定编码为utf8。
4. 使用lxml库解析HTML文档,获取新闻标题所在的节点。
5. 使用xpath语法选择节点,获取新闻标题文本列表。
6. 使用numpy库的savetxt函数将新闻标题列表保存为txt文件。
值得注意的是,在运行此段代码前,需要先安装好相应的库,否则会出现导入错误。另外,网站的反爬虫机制也可能会导致代码无法正常运行,需要针对具体情况进行相应的处理。
阅读全文