python爬取关键字搜索内容输出标题跟链接
时间: 2023-12-23 15:48:01 浏览: 95
这是一个简单的Python爬虫程序,用于从搜索引擎中爬取与关键字相关的搜索结果,并输出标题和链接。
```python
import requests
from bs4 import BeautifulSoup
def search(keyword):
url = "https://www.baidu.com/s"
params = {"wd": keyword}
headers = {
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3"}
response = requests.get(url, params=params, headers=headers)
soup = BeautifulSoup(response.text, "html.parser")
results = soup.find_all("h3", {"class": "t"})
for result in results:
link = result.a.get("href")
title = result.a.text
print(title, link)
search("Python 爬虫")
```
在上面的代码中,我们使用`requests`和`BeautifulSoup`库来获取和解析搜索结果页面。我们首先定义了一个`search`函数,它接受一个关键字作为参数,并使用`requests.get`方法获取搜索结果页面。然后,我们使用`BeautifulSoup`将页面解析为一个`soup`对象。接下来,我们使用`soup.find_all`方法查找所有标题标签`<h3 class="t">`,并遍历它们以获取标题和链接。最后,我们使用`print`函数输出标题和链接。
我们调用`search`函数,并传递一个关键字作为参数。运行程序后,我们将看到与关键字相关的搜索结果页面的标题和链接。
阅读全文