python爬虫带请求头
时间: 2023-10-30 16:03:19 浏览: 182
要在Python中使用带有请求头的爬虫,你可以使用requests库。请求头包含了一些与HTTP请求相关的信息,如User-Agent、Cookie等。下面是一个示例代码:
```python
import requests
# 设置请求头
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3',
'Referer': 'https://www.example.com/'
}
# 发送带有请求头的GET请求
response = requests.get('http://www.example.com', headers=headers)
# 打印网页内容
print(response.text)
```
在上面的代码中,我们通过创建一个字典来设置请求头,然后将其作为参数传递给requests库中的get()方法。可以根据需要添加或修改请求头中的字段。
请注意,User-Agent字段用于模拟浏览器发送请求,Referer字段用于指定请求来源。你可以根据实际情况修改这些字段的值。另外,建议遵守网站的爬虫规则,不要滥用爬虫。
阅读全文