如何用python爬取网页指定超链接

可以使用 Python 的 requests 和 BeautifulSoup 库来实现爬取网页指定超链接的操作。

首先，使用 requests 库发送 HTTP 请求获取网页的 HTML 内容：

import requests

url = 'http://example.com'
response = requests.get(url)
html = response.text

接下来，使用 BeautifulSoup 库解析 HTML 内容，并找到指定的超链接：

from bs4 import BeautifulSoup

soup = BeautifulSoup(html, 'html.parser')
links = soup.find_all('a', href='https://www.example.com')

这里使用 `find_all` 方法找到所有 `a` 标签，并筛选出 `href` 属性为指定值的超链接。

最后，遍历筛选出的超链接列表，获取其 `href` 属性值即可：

for link in links:
    print(link['href'])

相关问题

如何使用python爬取网页指定的超链接并下载这个超链接的文件

你可以使用Python中的`requests`和`beautifulsoup4`库来实现这个功能。

首先，使用`requests`库来获取网页的HTML代码：

import requests

url = 'http://example.com'
response = requests.get(url)
html_content = response.content

然后，使用`beautifulsoup4`库来解析HTML代码并获取超链接：

from bs4 import BeautifulSoup

soup = BeautifulSoup(html_content, 'html.parser')
links = soup.find_all('a')

for link in links:
    href = link.get('href')
    if href.endswith('.pdf'): # 判断链接是否指向PDF文件
        # 下载文件
        pdf_response = requests.get(href)
        with open('example.pdf', 'wb') as f:
            f.write(pdf_response.content)

以上代码将下载所有超链接指向的PDF文件到本地文件系统中。请注意，这个代码只下载第一个超链接指向的PDF文件，如果你需要下载所有的PDF文件，你需要在循环中处理每一个链接。

python爬取网页指定内容

要爬取网页上的指定内容，需要使用 Python 的 requests 和 BeautifulSoup 库。

首先，使用 requests 库发送 GET 请求获取网页内容：

import requests

url = "http://example.com"
response = requests.get(url)
html_content = response.text

然后，使用 BeautifulSoup 库解析 HTML 内容并获取指定内容。例如，如果要获取网页中所有的超链接：

from bs4 import BeautifulSoup

soup = BeautifulSoup(html_content, 'html.parser')
links = soup.find_all('a')
for link in links:
    print(link.get('href'))

如果要获取网页中的标题：

from bs4 import BeautifulSoup

soup = BeautifulSoup(html_content, 'html.parser')
title = soup.title.string
print(title)

总之，使用 requests 和 BeautifulSoup 库可以轻松地爬取网页上的指定内容。