python爬取网页数据代码
时间: 2023-09-15 12:18:13 浏览: 18
Python抓取网页代码
以下是一个简单的Python爬虫代码,可以用来爬取网页数据:
```python
import requests
from bs4 import BeautifulSoup
# 发送 HTTP 请求
url = 'https://www.example.com'
response = requests.get(url)
# 解析 HTML 页面
soup = BeautifulSoup(response.text, 'html.parser')
# 找到所有的链接
links = soup.find_all('a')
# 打印链接
for link in links:
print(link.get('href'))
```
这个代码使用了 `requests` 库来发送 HTTP 请求,使用 `BeautifulSoup` 库来解析 HTML 页面。首先,我们发送了一个 GET 请求,得到了网页的 HTML 页面。然后,我们使用 BeautifulSoup 对 HTML 进行解析,找到了所有的链接,并打印出来。
阅读全文