使用python自动爬取百度搜索结果
时间: 2024-01-01 10:05:22 浏览: 35
这里提供一个基础的爬取百度搜索结果的Python脚本,仅供参考。
```python
import requests
from bs4 import BeautifulSoup
search = input("请输入搜索内容:")
url = 'https://www.baidu.com/s?wd=' + search
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
response = requests.get(url, headers=headers)
soup = BeautifulSoup(response.text, 'html.parser')
for result in soup.find_all('div', {'class': 'result c-container'}):
title = result.h3.get_text()
link = result.h3.a['href']
abstract = result.find('div', {'class': 'c-abstract'}).get_text()
print(title)
print(link)
print(abstract)
print('-' * 80)
```
运行脚本后,输入想要搜索的内容,即可自动爬取百度搜索结果的标题、链接和摘要信息,并输出到控制台。需要注意的是,爬取百度搜索结果可能会涉及到一些法律问题,所以请谨慎使用。