python 爬虫之请求头
时间: 2023-08-05 09:09:22 浏览: 142
Python爬虫中的请求头是用于模拟浏览器向服务器发送请求时的头部信息。它包含了一些关键的字段,比如User-Agent、Referer、Cookie等,用于告诉服务器请求的来源、身份认证信息等。
在Python中,可以使用requests库来发送HTTP请求,并设置请求头。以下是一个示例:
```python
import requests
url = 'https://www.example.com'
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/88.0.4324.182 Safari/537.36',
'Referer': 'https://www.google.com',
'Cookie': 'your_cookie_value'
}
response = requests.get(url, headers=headers)
```
在上面的示例中,我们通过设置`headers`参数来传递请求头。你可以根据需要添加或修改请求头字段,其中`User-Agent`字段用于指定浏览器的User-Agent字符串,`Referer`字段用于指定请求的来源页面,`Cookie`字段用于传递身份认证信息。
需要注意的是,不同的网站对请求头的要求可能有所不同,你可以通过查看浏览器开发者工具或网站文档来获取正确的请求头信息。
阅读全文