find.all() 我想获取照片中的src 的值

时间: 2024-10-18 15:14:57 浏览: 28
`find_all()` 是 Python 中 `BeautifulSoup` 库的一个常用方法,用于从 HTML 或 XML 文档中查找匹配指定标签(或正则表达式)的所有元素。当你处理网页抓取时,可能会遇到包含大量图片链接(src属性)的情况。 如果你想从一个 HTML 结构中提取所有的 `<img>` 标签的 `src` 属性值,你可以这样做: ```python from bs4 import BeautifulSoup import requests # 假设url是你要抓取的网页地址 url = 'http://example.com' # 使用requests获取网页内容 response = requests.get(url) html_content = response.text # 使用BeautifulSoup解析HTML soup = BeautifulSoup(html_content, 'html.parser') # 查找所有<img>标签并提取src属性 images_src = soup.find_all('img', src=True) # 现在images_src是一个列表,其中包含每个<img>标签的src属性值 for img in images_src: print(img['src']) ``` 这个例子中,`find_all('img', src=True)` 会找到所有 `img` 标签,并且只返回那些 `src` 属性存在的标签。如果有些 `img` 没有 `src`,它们将不会被包括在结果中。
相关问题

python beautifulsoup4 findall 之后获取 img limian de src

可以使用以下代码获取img标签中的src属性: ```python from bs4 import BeautifulSoup import requests url = 'http://example.com' # 网页链接 response = requests.get(url) soup = BeautifulSoup(response.content, 'html.parser') imgs = soup.find_all('img') # 找到所有的img标签 for img in imgs: src = img.get('src') # 获取img标签的src属性 print(src) ``` 其中,`response.content`表示网页的原始内容,`html.parser`是解析器。后面的代码通过遍历找到的`img`标签,使用`get()`方法获取`src`属性值,并打印输出。

优化Python这段代码# coding:utf-8 import requests from bs4 import BeautifulSoup import re import os obj={} response = requests.get('http://hbjd.com.cn/article-view-id-20554.html') dom = BeautifulSoup(response.text, "html.parser") article=dom.find_all("article")[0] subdom = BeautifulSoup(str(article),"html.parser") title = subdom.find_all("h2")[0].txt obj["title"]=title p1 = subdom.find_all("p")[0].text obj["p1"]=p1 p2 = subdom.find_all("p")[1] subdom2 = BeautifulSoup(str(p2),"html.parser") p2 = subdom2.find_all("span")[1].text+subdom2.find_all("span")[2].text obj["p2"]=p2 p3 = subdom.find_all("p")[3].text obj["p3"]=p3 out = "".join(obj["p1"].split()) out1 = "".join(obj["p2"].split()) out2 = "".join(obj["p3"].split()) print (title) content = out+"\n" + out1 + "\n" + out2 print (content) with open ("article.txt","w")as fp: if content != None and len(content) >0: fp.write(str(content)) fp.flush() subdom3 = BeautifulSoup(str(subdom.find_all("p")[2]),"html.parser") img = subdom3.find_all("img")[0] url = "http://http://www.hbjd.com.cn/"+img.attrs['src'] responseImg = requests.get(url) with open ("img1.jpg","wb")as fp: if len(responseImg.content) >0: fp.write(responseImg.content) fp.flush() subdom4 = BeautifulSoup(str(subdom.find_all("p")[4]),"html.parser") img = subdom4.find_all("img")[0] url = "http://www.hbjd.com.cn/"+img.attrs['src'] responseImg = requests.get(url) with open ("img2.jpg","wb")as fp: if len(responseImg.content) > 0: fp.write(responseImg.content) fp.flush()

可以考虑以下几个方面的优化: 1. 减少网络请求:当前代码中使用了多次网络请求获取网页和图片,可以尝试使用会话(Session)来复用TCP连接,减少建立连接的时间。 2. 减少解析HTML的次数:当前代码中使用了多次BeautifulSoup来解析HTML,可以尝试在一次解析中获取需要的信息。 3. 简化字符串处理:当前代码中使用了多次字符串处理来去除空白字符,可以使用正则表达式或者Python内置的字符串方法来简化处理。 4. 异常处理:当前代码中没有进行异常处理,可以加入适当的异常处理来提高代码的健壮性。 以下是优化后的代码示例: ```python # coding:utf-8 import requests from bs4 import BeautifulSoup import re url = 'http://hbjd.com.cn/article-view-id-20554.html' # 使用会话复用TCP连接 session = requests.Session() response = session.get(url) response.encoding = 'utf-8' dom = BeautifulSoup(response.text, 'html.parser') article = dom.find('article') # 在一次解析中获取需要的信息 title = article.find('h2').text p1, p2, p3 = [p.text for p in article.find_all('p')[::2]] # 使用正则表达式简化字符串处理 out = re.sub(r'\s+', '', p1) out1 = re.sub(r'\s+', '', p2.split()[1] + p2.split()[2]) out2 = re.sub(r'\s+', '', p3) print(title) content = out + '\n' + out1 + '\n' + out2 print(content) # 添加异常处理 try: with open('article.txt', 'w') as fp: if content and len(content) > 0: fp.write(content) except Exception as e: print('Failed to write to file:', e) # 下载图片 for i, img in enumerate(article.find_all('img'), 1): url = 'http://www.hbjd.com.cn' + img.attrs['src'] responseImg = session.get(url) if responseImg.ok: with open(f'img{i}.jpg', 'wb') as fp: fp.write(responseImg.content) ```
阅读全文

相关推荐

import requests from bs4 import BeautifulSoup import pandas as pd import matplotlib.pyplot as plt from PIL import Image import os # 定义请求头 headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'} # 爬取页面的 URL url = 'https://movie.douban.com/top250' # 发送 GET 请求并获取响应 response = requests.get(url, headers=headers) html = response.text # 解析 HTML soup = BeautifulSoup(html, 'html.parser') # 获取电影列表 movies = [] for item in soup.find_all('div', class_='item'): movie = {} movie['rank'] = item.find('em').text movie['title'] = item.find('span', class_='title').text movie['director'] = item.find('div', class_='bd').p.text.split('\n')[1].strip().split(':')[1] movie['actors'] = item.find('div', class_='bd').p.text.split('\n')[2].strip()[3:] movie['score'] = item.find('span', class_='rating_num').text movie['votes'] = item.find('span', class_='rating_num').next_sibling.next_sibling.text[:-3] movie['cover_url'] = item.find('img')['src'] movies.append(movie) # 存储数据到 CSV 文件 df = pd.DataFrame(movies) df.to_csv('films.csv', index=False) # 下载封面图片并保存 if not os.path.exists('films_pic'): os.mkdir('films_pic') for movie in movies: img_url = movie['cover_url'] img_title = movie['title'] img_path = os.path.join('films_pic', f"{img_title}.jpg") response = requests.get(img_url, headers=headers) with open(img_path, 'wb') as f: f.write(response.content) # 可视化评分和人数 plt.plot(df['rank'], df['score'], label='Score') plt.plot(df['rank'], df['votes'], label='Votes') plt.xlabel('Rank') plt.legend() plt.savefig('score_votes.png') plt.show()

../dlib-19.22/dlib/all/../bigint/../vectorstream/vectorstream.h:31:34: error: invalid use of dependent type ‘dlib::vectorstream::vector_streambuf<CharType>::size_type’ size_type read_pos = 0; // buffer[read_pos] == next byte to read from buffer ^ In file included from ../dlib-19.22/dlib/all/../svm/../global_optimization.h:8:0, from ../dlib-19.22/dlib/all/../svm/auto.cpp:7, from ../dlib-19.22/dlib/all/source.cpp:87: ../dlib-19.22/dlib/all/../svm/../global_optimization/find_max_global.h:284:47: error: default argument missing for parameter 8 of ‘template<class funct, class ... Args> std::pair<long unsigned int, dlib::function_evaluation> dlib::impl::find_max_global(double, dlib::thread_pool&, std::vector<_RealType>&, std::vector<dlib::function_spec>, std::chrono::nanoseconds, dlib::max_function_calls, double, Args&& ...)’ std::pair<size_t,function_evaluation> find_max_global ( ^ ../dlib-19.22/dlib/all/../svm/../global_optimization/find_max_global.h:303:47: error: default argument missing for parameter 7 of ‘template<class funct, class ... Args> std::pair<long unsigned int, dlib::function_evaluation> dlib::impl::find_max_global(double, dlib::thread_pool&, std::vector<_RealType>&, std::vector<dlib::function_spec>, std::chrono::nanoseconds, double, Args&& ...)’ std::pair<size_t,function_evaluation> find_max_global ( ^ make[3]: *** [../dlib-19.22/dlib/all/libRNA_concentrations_la-source.lo] Error 1 make[3]: Leaving directory /storage/denghua/anaconda3/lib/python3.8/site-packages/ViennaRNA-2.5.0/src/ViennaRNA' make[2]: *** [install-recursive] Error 1 make[2]: Leaving directory /storage/denghua/anaconda3/lib/python3.8/site-packages/ViennaRNA-2.5.0/src/ViennaRNA' make[1]: *** [install-recursive] Error 1 make[1]: Leaving directory /storage/denghua/anaconda3/lib/python3.8/site-packages/ViennaRNA-2.5.0/src' make: *** [install-recursive] Error 1

大家在看

recommend-type

基2,8点DIT-FFT,三级流水线verilog实现

基2,8点DIT-FFT,三级流水线verilog实现,输入采用32位输入,计算精度较高,且注释清楚,方便参考。
recommend-type

某大型国企信息化项目验收管理办法.pdf

某大型国企信息化项目验收管理办法.pdf
recommend-type

CISP-DSG 数据安全培训教材课件标准版

“ 注册数据安全治理专业人员”,英文为 Certified Information Security Professional - Data Security Governance , 简称 CISP-DSG , 是中国信息安全测评中心联合天融信开发的针对数据安全人才的培养认证, 是业界首个针对数据安全治理方向的国家级认证培训。 CISP-DSG 知识体系结构共包含四个知识类,分别为: 信息安全知识:主要包括信息安全保障、信息安全评估、网络安全监管、信息安全支撑技术相关的知识。 数据安全基础体系:主要包括结构化数据应用、非结构化数据应用、大数据应用、数据生命周期等相关的技术知识。 数据安全技术体系:主要包括数据安全风险、结构化数据安全技术、非结构数据安全技术、大数据安全技术、数据安全运维相关知识和实践。 数据安全管理体系:主要包括数据安全制度、数据安全标准、数据安全策略、数据安全规范、数据安全规划相关技术知识和实践。
recommend-type

synopsis dma ip核手册

synopsis 的dma ip核使用手册,供FPGA或者驱动开发人员查阅
recommend-type

MRP整体设计.pptx

如何采用DDD的模式设计MRP及性能优化

最新推荐

recommend-type

java计算器源码.zip

java毕业设计源码,可供参考
recommend-type

PHP集成Autoprefixer让CSS自动添加供应商前缀

标题和描述中提到的知识点主要包括:Autoprefixer、CSS预处理器、Node.js 应用程序、PHP 集成以及开源。 首先,让我们来详细解析 Autoprefixer。 Autoprefixer 是一个流行的 CSS 预处理器工具,它能够自动将 CSS3 属性添加浏览器特定的前缀。开发者在编写样式表时,不再需要手动添加如 -webkit-, -moz-, -ms- 等前缀,因为 Autoprefixer 能够根据各种浏览器的使用情况以及官方的浏览器版本兼容性数据来添加相应的前缀。这样可以大大减少开发和维护的工作量,并保证样式在不同浏览器中的一致性。 Autoprefixer 的核心功能是读取 CSS 并分析 CSS 规则,找到需要添加前缀的属性。它依赖于浏览器的兼容性数据,这一数据通常来源于 Can I Use 网站。开发者可以通过配置文件来指定哪些浏览器版本需要支持,Autoprefixer 就会自动添加这些浏览器的前缀。 接下来,我们看看 PHP 与 Node.js 应用程序的集成。 Node.js 是一个基于 Chrome V8 引擎的 JavaScript 运行时环境,它使得 JavaScript 可以在服务器端运行。Node.js 的主要特点是高性能、异步事件驱动的架构,这使得它非常适合处理高并发的网络应用,比如实时通讯应用和 Web 应用。 而 PHP 是一种广泛用于服务器端编程的脚本语言,它的优势在于简单易学,且与 HTML 集成度高,非常适合快速开发动态网站和网页应用。 在一些项目中,开发者可能会根据需求,希望把 Node.js 和 PHP 集成在一起使用。比如,可能使用 Node.js 处理某些实时或者异步任务,同时又依赖 PHP 来处理后端的业务逻辑。要实现这种集成,通常需要借助一些工具或者中间件来桥接两者之间的通信。 在这个标题中提到的 "autoprefixer-php",可能是一个 PHP 库或工具,它的作用是把 Autoprefixer 功能集成到 PHP 环境中,从而使得在使用 PHP 开发的 Node.js 应用程序时,能够利用 Autoprefixer 自动处理 CSS 前缀的功能。 关于开源,它指的是一个项目或软件的源代码是开放的,允许任何个人或组织查看、修改和分发原始代码。开源项目的好处在于社区可以一起参与项目的改进和维护,这样可以加速创新和解决问题的速度,也有助于提高软件的可靠性和安全性。开源项目通常遵循特定的开源许可证,比如 MIT 许可证、GNU 通用公共许可证等。 最后,我们看到提到的文件名称 "autoprefixer-php-master"。这个文件名表明,该压缩包可能包含一个 PHP 项目或库的主分支的源代码。"master" 通常是源代码管理系统(如 Git)中默认的主要分支名称,它代表项目的稳定版本或开发的主线。 综上所述,我们可以得知,这个 "autoprefixer-php" 工具允许开发者在 PHP 环境中使用 Node.js 的 Autoprefixer 功能,自动为 CSS 规则添加浏览器特定的前缀,从而使得开发者可以更专注于内容的编写而不必担心浏览器兼容性问题。
recommend-type

揭秘数字音频编码的奥秘:非均匀量化A律13折线的全面解析

# 摘要 数字音频编码技术是现代音频处理和传输的基础,本文首先介绍数字音频编码的基础知识,然后深入探讨非均匀量化技术,特别是A律压缩技术的原理与实现。通过A律13折线模型的理论分析和实际应用,本文阐述了其在保证音频信号质量的同时,如何有效地降低数据传输和存储需求。此外,本文还对A律13折线的优化策略和未来发展趋势进行了展望,包括误差控制、算法健壮性的提升,以及与新兴音频技术融合的可能性。 # 关键字 数字音频编码;非均匀量化;A律压缩;13折线模型;编码与解码;音频信号质量优化 参考资源链接:[模拟信号数字化:A律13折线非均匀量化解析](https://wenku.csdn.net/do
recommend-type

arduino PAJ7620U2

### Arduino PAJ7620U2 手势传感器 教程 #### 示例代码与连接方法 对于Arduino开发PAJ7620U2手势识别传感器而言,在Arduino IDE中的项目—加载库—库管理里找到Paj7620并下载安装,完成后能在示例里找到“Gesture PAJ7620”,其中含有两个示例脚本分别用于9种和15种手势检测[^1]。 关于连线部分,仅需连接四根线至Arduino UNO开发板上的对应位置即可实现基本功能。具体来说,这四条线路分别为电源正极(VCC),接地(GND),串行时钟(SCL)以及串行数据(SDA)[^1]。 以下是基于上述描述的一个简单实例程序展示如
recommend-type

网站啄木鸟:深入分析SQL注入工具的效率与限制

网站啄木鸟是一个指的是一类可以自动扫描网站漏洞的软件工具。在这个文件提供的描述中,提到了网站啄木鸟在发现注入漏洞方面的功能,特别是在SQL注入方面。SQL注入是一种常见的攻击技术,攻击者通过在Web表单输入或直接在URL中输入恶意的SQL语句,来欺骗服务器执行非法的SQL命令。其主要目的是绕过认证,获取未授权的数据库访问权限,或者操纵数据库中的数据。 在这个文件中,所描述的网站啄木鸟工具在进行SQL注入攻击时,构造的攻击载荷是十分基础的,例如 "and 1=1--" 和 "and 1>1--" 等。这说明它的攻击能力可能相对有限。"and 1=1--" 是一个典型的SQL注入载荷示例,通过在查询语句的末尾添加这个表达式,如果服务器没有对SQL注入攻击进行适当的防护,这个表达式将导致查询返回真值,从而使得原本条件为假的查询条件变为真,攻击者便可以绕过安全检查。类似地,"and 1>1--" 则会检查其后的语句是否为假,如果查询条件为假,则后面的SQL代码执行时会被忽略,从而达到注入的目的。 描述中还提到网站啄木鸟在发现漏洞后,利用查询MS-sql和Oracle的user table来获取用户表名的能力不强。这表明该工具可能无法有效地探测数据库的结构信息或敏感数据,从而对数据库进行进一步的攻击。 关于实际测试结果的描述中,列出了8个不同的URL,它们是针对几个不同的Web应用漏洞扫描工具(Sqlmap、网站啄木鸟、SqliX)进行测试的结果。这些结果表明,针对提供的URL,Sqlmap和SqliX能够发现注入漏洞,而网站啄木鸟在多数情况下无法识别漏洞,这可能意味着它在漏洞检测的准确性和深度上不如其他工具。例如,Sqlmap在针对 "http://www.2cto.com/news.php?id=92" 和 "http://www.2cto.com/article.asp?ID=102&title=Fast food marketing for children is on the rise" 的URL上均能发现SQL注入漏洞,而网站啄木鸟则没有成功。这可能意味着网站啄木鸟的检测逻辑较为简单,对复杂或隐蔽的注入漏洞识别能力不足。 从这个描述中,我们也可以了解到,在Web安全测试中,工具的多样性选择是十分重要的。不同的安全工具可能对不同的漏洞和环境有不同的探测能力,因此在实际的漏洞扫描过程中,安全测试人员需要选择合适的工具组合,以尽可能地全面地检测出应用中存在的漏洞。 在标签中指明了这是关于“sql注入”的知识,这表明了文件主题的核心所在。SQL注入是一种常见的网络攻击方式,安全测试人员、开发人员和网络管理员都需要对此有所了解,以便进行有效的防御和检测。 最后,提到了压缩包子文件的文件名称列表,其中包含了三个文件:setup.exe、MD5.exe、说明_Readme.html。这里提供的信息有限,但可以推断setup.exe可能是一个安装程序,MD5.exe可能是一个计算文件MD5散列值的工具,而说明_Readme.html通常包含的是软件的使用说明或者版本信息等。这些文件名暗示了在进行网站安全测试时,可能涉及到安装相关的软件工具,以及进行文件的校验和阅读相应的使用说明。然而,这些内容与文件主要描述的web安全漏洞检测主题不是直接相关的。
recommend-type

【GPStoolbox使用技巧大全】:20个实用技巧助你精通GPS数据处理

# 摘要 GPStoolbox是一个广泛应用于GPS数据处理的软件工具箱,它提供了从数据导入、预处理、基本分析到高级应用和自动化脚本编写的全套功能。本文介绍了GPStoolbox的基本概况、安装流程以及核心功能,探讨了如何
recommend-type

spring boot怎么配置maven

### 如何在 Spring Boot 项目中正确配置 Maven #### pom.xml 文件设置 `pom.xml` 是 Maven 项目的核心配置文件,在 Spring Boot 中尤为重要,因为其不仅管理着所有的依赖关系还控制着项目的构建流程。对于 `pom.xml` 的基本结构而言,通常包含如下几个部分: - **Project Information**: 定义了关于项目的元数据,比如模型版本、组ID、工件ID和版本号等基本信息[^1]。 ```xml <project xmlns="http://maven.apache.org/POM/4.0.0
recommend-type

我的个人简历HTML模板解析与应用

根据提供的文件信息,我们可以推断出这些内容与一个名为“My Resume”的个人简历有关,并且这份简历使用了HTML技术来构建。以下是从标题、描述、标签以及文件名称列表中提取出的相关知识点。 ### 标题:“my_resume:我的简历” #### 知识点: 1. **个人简历的重要性:** 简历是个人求职、晋升、转行等职业发展活动中不可或缺的文件,它概述了个人的教育背景、工作经验、技能及成就等关键信息,供雇主或相关人士了解求职者资质。 2. **简历制作的要点:** 制作简历时,应注重排版清晰、逻辑性强、突出重点。使用恰当的标题和小标题,合理分配版面空间,并确保内容的真实性和准确性。 ### 描述:“我的简历” #### 知识点: 1. **简历个性化:** 描述中的“我的简历”强调了个性化的重要性。每份简历都应当根据求职者的具体情况和目标岗位要求定制,确保简历内容与申请职位紧密相关。 2. **内容的针对性:** 描述表明简历应具有针对性,即在不同的求职场合下可能需要不同的简历版本,以突出与职位最相关的信息。 ### 标签:“HTML” #### 知识点: 1. **HTML基础:** HTML(HyperText Markup Language)是构建网页的标准标记语言。它定义了网页内容的结构,通过标签(tag)对信息进行组织,如段落(<p>)、标题(<h1>至<h6>)、图片(<img>)、链接(<a>)等。 2. **简历的在线呈现:** 使用HTML创建在线简历,可以让求职者以网页的形式展示自己。这种方式除了文字信息外,还可以嵌入多媒体元素,如视频、图表,增强简历的表现力。 3. **简历的响应式设计:** 随着移动设备的普及,确保简历在不同设备上(如PC、平板、手机)均能良好展示变得尤为重要。利用HTML结合CSS和JavaScript,可以创建适应不同屏幕尺寸的响应式简历。 4. **SEO(搜索引擎优化):** 使用HTML时,合理使用元标签(meta tags)如<meta name="description">可以帮助简历在搜索引擎中获得更好的可见性,从而增加被潜在雇主发现的机会。 ### 压缩包子文件的文件名称列表:“my_resume-main” #### 知识点: 1. **项目组织结构:** 文件名称列表中的“my_resume-main”暗示了一个可能的项目结构。在这个结构中,“main”可能指的是这个文件是主文件,例如HTML文件可能是整个简历网站的入口。 2. **压缩和部署:** “压缩包子文件”可能是指将多个文件打包成一个压缩包。在前端开发中,通常会将HTML、CSS、JavaScript等源文件压缩后上传到服务器上。压缩通常可以减少文件大小,加快加载速度。 3. **文件命名规则:** 从文件命名可以推断出命名习惯,这通常是开发人员约定俗成的,有助于维护代码的整洁和可读性。例如,“my_resume”很直观地表示了这个文件是关于“我的简历”的内容。 综上所述,这些信息点不仅提供了关于个人简历的重要性和制作要点,而且还涵盖了使用HTML制作简历的各个方面,包括页面结构设计、元素应用、响应式设计以及文件组织和管理等。针对想要制作个人简历的用户,这些知识点提供了相当丰富的信息,以帮助他们更好地创建和优化自己的在线简历。
recommend-type

3GPP架构深度解析:掌握网络功能与服务框架的关键

# 摘要 本文详细介绍了3GPP架构及其核心网络功能、无线接入网络和网络服务框架,强调了其在当代通信网络中的重要性和技术演进。文中深入探讨了3GPP核心网络在用户数据管理、控制平面与用户平面分离、服务连续性及网络切片技术等方面的核心功能和协议架构。进一步分析了无线接入网络的接口协议栈、空中接口信令和数据传输机制以及无线资源管理的策略。在网络服务框架部分,重点讨论了网络功能虚拟化(NFV)、软件定义网络(SDN)的架构
recommend-type

Failed to restart vntoolsd.service: Unit vntoolsd.service not found.

### 解决 `vntoolsd.service` 未找到导致的服务重启失败问题 对于 Arch Linux 中遇到的 `vntoolsd.service` 服务重启失败的情况,可以按照以下方法排查并解决问题。 #### 检查服务名称准确性 确认命令中的服务名是否正确。通常情况下应为 `vmtoolsd.service` 而不是 `vntoolsd.service`[^1]。 ```bash sudo systemctl status vmtoolsd.service ``` 此命令用于查看 `vmtoolsd.service` 的状态,如果显示该服务不存在,则可能是拼写错误所致。