python playwright爬取
时间: 2023-06-30 10:18:41 浏览: 186
您想了解如何使用 Python 和 Playwright 进行网页爬取,是吗?如果是的话,以下是一个简单的例子:
首先,您需要安装 Playwright 和 Python 的依赖项。您可以通过以下命令来安装它们:
```
pip install playwright
playwright install
```
接下来,您可以使用以下代码来启动 Playwright 并加载一个网页:
```python
from playwright.sync_api import Playwright, sync_playwright
with sync_playwright() as p:
browser = p.chromium.launch()
context = browser.new_context()
page = context.new_page()
page.goto('https://www.example.com')
# 执行一些操作,例如查找元素或填写表单
browser.close()
```
在这个例子中,我们使用 `sync_playwright` 函数来启动 Playwright,然后使用 `chromium` 来启动 Chromium 浏览器。然后,我们创建一个新的浏览器上下文和页面,并使用 `goto` 方法来加载一个网页。在这里,我们加载了一个名为 `example.com` 的示例网站。
接下来,您可以使用 Playwright 的 API 来执行各种操作,例如查找元素、填写表单或单击按钮。例如,以下代码会在搜索框中输入文本并单击搜索按钮:
```python
from playwright.sync_api import Playwright, sync_playwright
with sync_playwright() as p:
browser = p.chromium.launch()
context = browser.new_context()
page = context.new_page()
page.goto('https://www.google.com')
# 查找搜索框并输入文本
search_box = page.locator('input[name="q"]')
search_box.fill('Python Playwright')
# 单击搜索按钮并等待搜索结果
search_button = page.locator('input[type="submit"]')
search_button.click()
page.wait_for_selector('#search')
browser.close()
```
在这个例子中,我们首先使用 `page.locator` 方法查找名称为 `q` 的搜索框,然后使用 `fill` 方法输入搜索文本。接下来,我们查找类型为 `submit` 的搜索按钮,并使用 `click` 方法单击它。最后,我们等待结果页面加载完成,并使用 `browser.close` 方法关闭浏览器。
总的来说,Playwright 是一个功能强大的工具,可以方便地使用 Python 进行网页爬取。
阅读全文