python爬虫知乎回答内容
时间: 2023-12-14 22:05:07 浏览: 45
为了爬取知乎回答内容,我们可以使用Python中的requests库和BeautifulSoup库。具体步骤如下:
1. 首先,我们需要使用requests库向知乎的网页发送请求,并获取到网页的HTML内容。代码如下:
```python
import requests
url = 'https://www.zhihu.com/question/1234567890/answer/1234567890'
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36'}
response = requests.get(url, headers=headers)
html_content = response.text
```
其中,url是知乎回答的链接,headers是请求头,用于模拟浏览器发送请求,response是服务器返回的响应对象,html_content是响应对象中的HTML内容。
2. 接下来,我们需要使用BeautifulSoup库解析HTML内容,并提取出我们需要的回答内容。代码如下:
```python
from bs4 import BeautifulSoup
soup = BeautifulSoup(html_content, 'html.parser')
answer_content = soup.find('div', class_='RichContent-inner').get_text()
```
其中,BeautifulSoup库用于解析HTML内容,soup是解析后的对象,answer_content是我们需要的回答内容。
3. 最后,我们可以将回答内容保存到本地文件或者数据库中。代码如下:
```python
import pymysql
db = pymysql.connect(host='localhost', user='root', password='123456', database='test', charset='utf8mb4')
cursor = db.cursor()
sql = "INSERT INTO answers(content) VALUES (%s)"
cursor.execute(sql, answer_content)
db.commit()
db.close()
```
其中,pymysql库用于连接MySQL数据库,db是数据库连接对象,cursor是游标对象,sql是插入数据的SQL语句,execute方法用于执行SQL语句,db.commit()用于提交事务,db.close()用于关闭数据库连接。
相关推荐
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![-](https://csdnimg.cn/download_wenku/file_type_column_c1.png)
![-](https://csdnimg.cn/download_wenku/file_type_column_c1.png)
![-](https://csdnimg.cn/download_wenku/file_type_column_c1.png)
![-](https://csdnimg.cn/download_wenku/file_type_column_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)