scrapy 报错 (ould not open (OMNECT tunnel with proxy 110.89.122.202:24394 [('status': 407, 'reason': b'Proxy Authentication Required'}]
时间: 2023-12-20 12:07:06 浏览: 136
这个错误提示表明Scrapy无法通过代理服务器连接到目标网站,因为代理服务器需要进行身份验证,但Scrapy没有提供代理服务器的验证信息。
解决这个问题的方法是,在Scrapy的配置文件中添加代理服务器的验证信息。具体步骤如下:
1. 打开Scrapy的配置文件(一般是settings.py)。
2. 在配置文件中添加以下代码:
```
PROXY_AUTHORIZATION = 'Basic ' + base64.b64encode(b'username:password').decode('utf-8')
DOWNLOADER_MIDDLEWARES = {
'scrapy.downloadermiddlewares.httpproxy.HttpProxyMiddleware': 110,
'scrapy.downloadermiddlewares.retry.RetryMiddleware': 120,
'scrapy.downloadermiddlewares.redirect.MetaRefreshMiddleware': 130,
'scrapy.downloadermiddlewares.redirect.RedirectMiddleware': 140,
'scrapy.downloadermiddlewares.cookies.CookiesMiddleware': 150,
'scrapy.downloadermiddlewares.httpcompression.HttpCompressionMiddleware': 160,
'scrapy.downloadermiddlewares.useragent.UserAgentMiddleware': 170,
'scrapy_proxy_pool.middlewares.ProxyPoolMiddleware': 200,
'scrapy_proxy_pool.middlewares.BanDetectionMiddleware': 300,
}
PROXY_POOL_ENABLED = True
```
其中,'username:password' 是代理服务器的验证信息,需要替换成实际的用户名和密码。
3. 保存配置文件,并重新运行Scrapy即可。
阅读全文