import requests import openpyxl from bs4 import BeautifulSoup headers = { 'User-Agent':'Mozilla / 5.0(Windows NT 10.0;Win64;x64) AppleWebKit / 537.36(KHTML, likeGecko) Chrome / 114.0.0.0Safari / 537.36' } def send_requests(): url = 'https://www.qidian.com/rank/yuepiao/' resp = requests.get(url,headers=headers,proxies={'HTTP':'114.231.82.96'}) return resp.text def parase_html(data): bs = BeautifulSoup(data,'lxml') tatol_books = bs.find('div',class_='book-img-text') books = tatol_books.find_all('li') # print(books) for item in books: book1_url = item.find('div',class_='book-mid-info')('h2') book_url = book1_url.find('a') print(book_url) def start(): result = send_requests() parase_html(result) if __name__ == '__main__': start(),为什么这段代码报错?错在什么地方?请详细说明;改如何改正这代码
时间: 2024-04-01 10:36:26 浏览: 51
这段代码报错是因为在 `parase_html` 函数中,第 14 行的 `book1_url` 变量获取的是一个列表,而不是一个 BeautifulSoup 对象,所以在接下来的一行中,使用 `find` 方法会报错。
要改正这段代码,可以将第 14 行的 `book1_url` 改为 `book_mid_info`,即:
```
book_mid_info = item.find('div',class_='book-mid-info')
book_url = book_mid_info.find('h2').find('a')
```
这样就可以正确获取书籍的链接了。
相关问题
import requests from bs4 import BeautifulSoup headers={'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/113.0.0.0 Safari/537.36 Edg/113.0.1774.50'} url='http://www.biquge5200.cc/191_191776/' resoponse=requests.get(url,headers=headers,timeout=50) html=BeautifulSoup(resoponse.text) print(html)
这段 Python 代码使用 requests 和 BeautifulSoup 库获取网页 http://www.biquge5200.cc/191_191776/ 的 HTML 内容,并打印出来。其中 headers 参数用于模拟浏览器请求,timeout 参数用于设置请求超时时间。如果请求成功,将返回一个 BeautifulSoup 对象,可通过对象的方法和属性解析 HTML 内容。
import requests from bs4 import BeautifulSoup url="https://www.shu.edu.cn/" headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'} response = requests.get(url, headers=headers) html=response.text soup=BeautifulSoup(html,"lxml") content_all=soup.find_all("a") for content in content_all: contentstring=content.text if contentstring!=None: print(contentstring)这段代码解析出来的是乱码
如果在使用BeautifulSoup解析HTML文档时出现乱码,有以下几种可能的原因:
1. 网站使用了非UTF-8编码:可以尝试将BeautifulSoup的解析器参数改成网站实际使用的编码方式。
2. 网站使用了动态加载,无法获取完整的HTML文档:可以使用Selenium等工具模拟浏览器行为获取完整的HTML文档。
3. requests获取的响应内容格式不对:可以尝试使用response.content代替response.text,或者指定requests的编码方式。
在这段代码中,如果出现了乱码,可以尝试将BeautifulSoup的解析器参数改成网站实际使用的编码方式。例如,如果网站使用了GBK编码,可以将解析器参数改为"html.parser"或者"lxml",并且指定编码方式为'GBK':
```python
import requests
from bs4 import BeautifulSoup
url = "https://www.shu.edu.cn/"
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
response = requests.get(url, headers=headers)
response.encoding = 'GBK' # 指定编码方式为GBK
html = response.text
soup = BeautifulSoup(html, "html.parser") # 或者使用lxml解析器
content_all = soup.find_all("a")
for content in content_all:
contentstring = content.text
if contentstring != None:
print(contentstring)
```
需要注意的是,如果网站使用的是动态加载方式,这种方法可能无法获取完整的HTML文档,需要使用Selenium等工具模拟浏览器行为获取完整的HTML文档。
阅读全文