python协程爬虫基本事例
时间: 2023-06-22 13:44:58 浏览: 136
python爬虫实例
好的,下面是一个基本的 Python 协程爬虫示例:
```python
import asyncio
import aiohttp
async def fetch(session, url):
async with session.get(url) as response:
return await response.text()
async def main():
async with aiohttp.ClientSession() as session:
html = await fetch(session, 'https://www.example.com')
print(html)
loop = asyncio.get_event_loop()
loop.run_until_complete(main())
```
这个示例使用 aiohttp 库来发送 HTTP 请求并获取响应。fetch 函数是一个协程函数,使用 async with 语句发送请求并异步等待响应。main 函数也是一个协程函数,创建一个 aiohttp 的 ClientSession 对象,并调用 fetch 函数来获取网页内容。最后,使用 asyncio 的 get_event_loop 方法来获取一个事件循环对象,并将 main 协程函数传递给 run_until_complete 方法来运行整个程序。
阅读全文