scrapy报错 [protego] DEBUG: Rule at line without any user agent to enforce it on.
时间: 2024-06-03 10:11:24 浏览: 305
Debug关于线程问题
这个报错通常是因为Scrapy抓取数据时没有指定User-Agent导致的。你可以在settings.py中设置DEFAULT_REQUEST_HEADERS里的User-Agent来解决这个问题,例如:
DEFAULT_REQUEST_HEADERS = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36'
}
阅读全文