python随机更换请求头
时间: 2023-10-12 10:21:32 浏览: 61
公开招标网站Python爬虫
可以使用Python的random模块来生成随机的User-Agent,然后在请求头中使用这个User-Agent。
示例代码:
```python
import requests
import random
# 定义一个User-Agent列表,可以根据自己的需求添加更多的User-Agent
user_agents = [
'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3',
'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36 SE 2.X MetaSr 1.0',
'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.81 Safari/537.36',
'Mozilla/5.0 (Windows NT 10.0; WOW64; rv:54.0) Gecko/20100101 Firefox/54.0',
'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:54.0) Gecko/20100101 Firefox/54.0',
'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.79 Safari/537.36 Edge/14.14393'
]
# 随机选择一个User-Agent
headers = {
'User-Agent': random.choice(user_agents)
}
# 发送请求
response = requests.get('http://www.example.com', headers=headers)
# 输出响应内容
print(response.text)
```
在上述示例中,我们定义了一个User-Agent列表,然后使用random.choice()函数随机选择一个User-Agent,将其放入请求头中发送请求。这种方法可以有效地防止网站对请求头的限制,提高爬虫的稳定性。
阅读全文