Python Beautifulsoup4的使用例子
时间: 2023-07-11 11:15:57 浏览: 48
好的,下面是一个更具体的使用例子:
假设我们要从一个网页中获取所有的新闻标题和对应的链接。我们可以先使用Requests库获取网页内容,然后使用Beautifulsoup4进行解析和查找。例如,我们要获取新浪新闻首页的标题和链接,可以使用以下代码:
```python
import requests
from bs4 import BeautifulSoup
url = 'https://www.sina.com.cn/'
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
html = requests.get(url, headers=headers).text
soup = BeautifulSoup(html, 'html.parser')
news_list = soup.find_all('a', class_='news-item')
for news in news_list:
title = news.get_text()
link = news['href']
print(title, link)
```
以上代码中,我们首先定义了要获取的网页的URL和请求头部。然后,使用Requests库发送请求,获取网页内容。接着,使用Beautifulsoup4将网页内容解析成一个BeautifulSoup对象。然后,使用`find_all`方法查找所有class属性为`news-item`的`a`标签,这些标签包含了新闻标题和链接。最后,遍历所有的标签,获取标题和链接,并输出。
输出结果如下:
```
新浪首页 https://www.sina.com.cn/
新闻 http://news.sina.com.cn/
财经 http://finance.sina.com.cn/
娱乐 http://ent.sina.com.cn/
体育 http://sports.sina.com.cn/
```
以上代码只是一个简单的例子,实际中可能需要对网页结构进行更深入的分析和查找。Beautifulsoup4提供了丰富的方法和属性,可以根据具体需求进行使用。