用python写一个微博热搜爬虫
时间: 2023-04-11 09:01:55 浏览: 173
Python网络爬虫之爬取微博热搜
可以使用Python的requests和BeautifulSoup库来实现微博热搜爬虫。首先,需要发送GET请求获取微博热搜页面的HTML代码,然后使用BeautifulSoup解析HTML代码,提取出热搜榜单的信息。以下是示例代码:
```
import requests
from bs4 import BeautifulSoup
url = 'https://s.weibo.com/top/summary?cate=realtimehot'
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
response = requests.get(url, headers=headers)
soup = BeautifulSoup(response.text, 'html.parser')
hot_list = soup.select('.td-02')
for hot in hot_list:
print(hot.text.strip())
```
这段代码会输出当前微博热搜榜单的前50条热搜话题。
阅读全文