from bs4 import BeautifulSoup import requests import openpyxl def get_html(url): try: r=requests.get(url) r.raise_for_status() r.encoding=r.apparent_encoding return r.text except: r='fail' return r def get_contents(urlist,rurl): soup=BeautifulSoup(rurl,'html.parser') trs=soup.find_all('tr') for tr in trs: un=[] for td in tr: ts=td.string ts=ts.strip() if ts == '': continue un.append(ts) urlist.append(un) def saveList(urlist): wb=openpyxl.Workbook() ws=wb.active r=1 for line in urlist: for col in range(1,len(line)+1): ws.cell(row=r,column=col).value=line[col-1] r=r+1 wb.save('University.xlsx') if __name__=="__main__": urlist=[] url="http://heucice.hrbeu.edu.cn/4017/list.htm" rurl=get_html(url) get_contents(urlist,rurl) saveList(urlist)

时间: 2024-04-28 11:20:14 浏览: 151
这段代码是一个简单的爬虫程序,用于爬取哈尔滨工程大学(HRBEU)信息与通信工程学院的本科教学网站上的“本科生教学管理”栏目下的“本科生教学管理办公室”页面中的表格内容,并将其保存到一个名为“University.xlsx”的 Excel 文件中。 在程序中,get_html() 函数用于获取网页的 HTML 内容,get_contents() 函数用于解析 HTML 内容,提取表格中的数据,并将其存储到一个列表中,saveList() 函数用于将列表中的数据保存到 Excel 文件中。 在程序的主函数中,首先定义了一个列表 urlist,用于存储表格中的数据。然后,定义了一个变量 url,用于存储目标页面的 URL 地址。接着,调用 get_html() 函数获取目标页面的 HTML 内容,并将其传递给 get_contents() 函数进行解析。最后,将解析后的数据传递给 saveList() 函数,将其保存到 Excel 文件中。 需要注意的是,爬取网页内容时需要遵守相关的法律法规和网站的规定,避免对目标网站造成不必要的影响。
相关问题

针对以下python代码的解释以及实验小结import requests from bs4 import BeautifulSoup import re #创建获取网页数据的函数geunivText def getnuivText(url): try: r = requests.get(url) r.raise_for_status r.encoding = r.apparent_encoding return r.text except: return '' #创建解析函数并将爬取的目标数据存储 def fillunivList(ulist,html): soup = BeautifulSoup(html,'html.parser') for tr in soup.find('tbody').children: tds = tr.find_all('td') temp = [] for i in [0,1,4,5]: if i != 1: t = tds[i].string temp.append(re.sub('\s*|\n','',t)) else: t = tds[i].find('a') temp.append(t.string) ulist.append(temp) return ulist #创建打印函数 def printunivRank(ulist,num): print('{0:^4}\t{1:^10}\t\t{2:^5}\t{3:^5}'.format('排名','大学名称','总分','办学层次')) for i in range(num): a,b,c,d = ulist[i] print('{0:{4}^4}\t{1:{4}^10}\t{2:{4}^5}\t{3:{4}^5}'.format(a,b,c,d,chr(12288))) def main(): url = 'https://www.shanghairanking.cn/rankings/bcur/2021' html_text = getnuivText(url) unlist = [] fillunivList(unlist,html_text) print(printunivRank(unlist,20)) main()

这段 Python 代码使用了 requests、BeautifulSoup 和 re 三个库,爬取了上海交通大学的 2021 年度排名信息。具体实现过程如下: 1. 定义了一个函数 getnuivText,用于获取指定 url 的网页内容,利用 requests 库的 get 方法,获取网页内容,并利用 raise_for_status 方法判断是否获取成功,最后返回获取到的网页内容。 2. 定义了一个函数 fillunivList,用于解析获取到的网页内容,并将排名信息存储到一个 list 中,该函数接受两个参数:ulist 和 html,其中 ulist 为存储排名信息的 list,html 为网页内容。通过 BeautifulSoup 库将网页内容解析成 XML 格式,并通过 find 方法找到 tbody 标签中的所有子元素,即 tr 标签中的所有数据。然后遍历每个 tr 标签中的 td 标签,并将 td 中的内容提取出来,存储到一个临时 list 中,最后将临时 list 添加到 ulist 中。最后函数返回 ulist。 3. 定义了一个函数 printunivRank,用于打印排名信息,该函数接受两个参数:ulist 和 num,其中 ulist 为存储排名信息的 list,num 为需要打印的排名个数。函数首先打印表头信息,然后遍历 ulist 中的前 num 个元素,依次打印排名信息。 4. 定义了主函数 main,用于调用上述两个函数,实现爬取和打印排名信息的功能。首先指定要爬取的 url,然后调用 getnuivText 函数获取网页内容,接着调用 fillunivList 函数解析网页内容,并将排名信息存储到一个 list 中。最后调用 printunivRank 函数打印排名信息。 总的来说,这段代码主要实现了爬取和解析网页内容,并将获取到的排名信息打印出来。

import requests from bs4 import BeautifulSoup allUniv = [] def getHTMLText(url): try: r = requests.get(url, timeout=30) r.raise_for_status() r.encoding = 'utf-8' return r.text except: return "" def fillUnivList(soup): data = soup.find_all('tr') for tr in data: ltd = tr.find_all('td') if len(ltd)==0: continue singleUniv = [] for td in ltd: singleUniv.append(td.string) allUniv.append(singleUniv) def printUnivList(num): print("{:^4}{:^10}{:^5}{:^8}{:^10}".format("排名","学校名称","省市","总分","培养规模")) for i in range(num): u=allUniv[i] print("{:^4}{:^10}{:^5}{:^8}{:^10}".format(u[0],u[1],u[2],u[3],u[6])) def main(): url = 'http://www.zuihaodaxue.cn/zuihaodaxuepaiming2016.html' html = getHTMLText(url) soup = BeautifulSoup(html, "html.parser") fillUnivList(soup) printUnivList(10) main()修改代码

这段代码是用来爬取2016年全国大学排名前10的大学的信息,并输出到控制台上。代码首先定义了一个空列表 allUniv,然后定义了三个函数:getHTMLText、fillUnivList、printUnivList。其中,getHTMLText函数用来获取指定URL的HTML文本内容,fillUnivList函数用来解析HTML文本内容并将排名前10大学的信息保存到 allUniv 列表中,printUnivList函数用来将 allUniv 列表中的信息输出到控制台上。最后,main函数调用了以上三个函数,从而完成了爬取和输出的任务。 对于修改的部分,可以根据自己的需求进行修改。比如,如果你想爬取其他年份的大学排名信息,只需要修改URL即可;如果你想输出更多的大学信息,可以修改printUnivList函数中的 num 参数。如果你想将爬取到的信息保存到本地文件中,可以添加一个新的函数来实现。总之,这段代码具有很强的可扩展性,可以根据自己的需求进行修改。
阅读全文

相关推荐

以下代码有错误修改:from bs4 import BeautifulSoup import requests import openpyxl def getHTMLText(url): try: r=requests.get(url) r.raise_for_status() r.encoding=r.apparent_encoding return r.text except: r="fail" return r def find2(soup): lsauthors=[] for tag in soup.find_all("td"): for img in tag.select("img[title]"): h=[] h=img["title"] lsauthors.append(h) def find3(soup): lsbfl=[] for tag in soup.find_all("td")[66:901]: #print(tag) bfl=[] bfl=tag.get_text() bfl=bfl.strip() lsbfl.append(bfl) return lsbfl if __name__ == "__main__": url= "https://www.kylc.com/stats/global/yearly/g_population_sex_ratio_at_birth/2020.html" text=getHTMLText(url) soup=BeautifulSoup(text,'html.parser') find2(soup) lsbfl=find3(soup) workbook=openpyxl.Workbook() worksheet = workbook.create_sheet('排名',index=0) project=['排名','国家/地区','所在洲','出生人口性别比'] rank=[] a=2 b=3 c=1 for i in range(1,201,1): rank.append(i) for i in range(len(project)): worksheet.cell(row=1, column=i + 1).value = project[i] for i in range(len(rank)): worksheet.cell(row=i + 2, column=1).value = rank[i] for i in range(200): worksheet.cell(row=i + 2, column=2).value = lsbfl[c] c=c+4 for i in range(200): worksheet.cell(row=i + 2, column=3).value = lsbfl[a] a=a+4 for i in range(200): worksheet.cell(row=i + 2, column=4).value = lsbfl[b] b=b+4 wb=workbook wb.save('D:\世界各国出生人口性别比.xlsx') import numpy as np import matplotlib.pyplot as plt import matplotlib labels = ['United States','China','Ukraine','Japan','Russia','Others'] values = np.array([11,69,9,23,20,68]) fig = plt.figure() sub = fig.add_subplot(111) sub.pie(values, labels=labels, explode=[0,0,0,0,0,0.05], autopct='(%.1f)%%', shadow = True, wedgeprops = dict( edgecolor='k', width=0.85)) sub.legend() fig.tight_layout() labels2=['0-100','100-200','>200'] people_means=[140,43,17] x=np.arange(len(labels2)) width=0.50 fig,ax=plt.subplots() rects=ax.bar(x,people_means,width,label='Number of matches') ax.set_ylabel('sum') ax.set_title('People compare') ax.set_xticks(x) ax.set_xticklabels(labels2) ax.legend() plt.show()

zip

最新推荐

recommend-type

java计算器源码.zip

java毕业设计源码,可供参考
recommend-type

FRP Manager-V1.19.2

Windows下的FRP图形化客户端,对应FRP版本0.61.1,需要64位操作系统
recommend-type

基于优化EKF的PMSM无位置传感器矢量控制研究_崔鹏龙.pdf

基于优化EKF的PMSM无位置传感器矢量控制研究_崔鹏龙.pdf
recommend-type

旧物置换网站(基于springboot,mysql,java).zip

旧物置换网站的开发过程中,采用B / S架构,主要使用Java技术进行开发,结合最新流行的springboot框架。中间件服务器是Tomcat服务器,使用Mysql数据库和Eclipse开发 环境。该旧物置换网站包括管理员、用户、卖家。其主要功能包括管理员:首页、个人中心、用户管理、卖家管理、旧物类型管理、旧物信息管理、置换交易管理、系统管理等,卖家后台:首页、个人中心、旧物类型管理、旧物信息管理、置换交易管理。前台首页;首页、旧物信息、网站公告、个人中心、后台管理等,用户后台:首页、个人中心、旧物信息管理、置换交易管理、用户可根据关键字进行信息的查找自己心仪的信息等。 (1)用户功能需求 用户进入前台系统可以查看首页、旧物信息、网站公告、个人中心、后台管理等操作。前台首页用例如图3-1所示。 (2)管理员功能需求 管理员登陆后,主要功能模块包括首页、个人中心、用户管理、卖家管理、旧物类型管理、旧物信息管理、置换交易管理、系统管理等功能。 关键词:旧物置换网站,Mysql数据库,Java技术 springboot框架
recommend-type

PHP集成Autoprefixer让CSS自动添加供应商前缀

标题和描述中提到的知识点主要包括:Autoprefixer、CSS预处理器、Node.js 应用程序、PHP 集成以及开源。 首先,让我们来详细解析 Autoprefixer。 Autoprefixer 是一个流行的 CSS 预处理器工具,它能够自动将 CSS3 属性添加浏览器特定的前缀。开发者在编写样式表时,不再需要手动添加如 -webkit-, -moz-, -ms- 等前缀,因为 Autoprefixer 能够根据各种浏览器的使用情况以及官方的浏览器版本兼容性数据来添加相应的前缀。这样可以大大减少开发和维护的工作量,并保证样式在不同浏览器中的一致性。 Autoprefixer 的核心功能是读取 CSS 并分析 CSS 规则,找到需要添加前缀的属性。它依赖于浏览器的兼容性数据,这一数据通常来源于 Can I Use 网站。开发者可以通过配置文件来指定哪些浏览器版本需要支持,Autoprefixer 就会自动添加这些浏览器的前缀。 接下来,我们看看 PHP 与 Node.js 应用程序的集成。 Node.js 是一个基于 Chrome V8 引擎的 JavaScript 运行时环境,它使得 JavaScript 可以在服务器端运行。Node.js 的主要特点是高性能、异步事件驱动的架构,这使得它非常适合处理高并发的网络应用,比如实时通讯应用和 Web 应用。 而 PHP 是一种广泛用于服务器端编程的脚本语言,它的优势在于简单易学,且与 HTML 集成度高,非常适合快速开发动态网站和网页应用。 在一些项目中,开发者可能会根据需求,希望把 Node.js 和 PHP 集成在一起使用。比如,可能使用 Node.js 处理某些实时或者异步任务,同时又依赖 PHP 来处理后端的业务逻辑。要实现这种集成,通常需要借助一些工具或者中间件来桥接两者之间的通信。 在这个标题中提到的 "autoprefixer-php",可能是一个 PHP 库或工具,它的作用是把 Autoprefixer 功能集成到 PHP 环境中,从而使得在使用 PHP 开发的 Node.js 应用程序时,能够利用 Autoprefixer 自动处理 CSS 前缀的功能。 关于开源,它指的是一个项目或软件的源代码是开放的,允许任何个人或组织查看、修改和分发原始代码。开源项目的好处在于社区可以一起参与项目的改进和维护,这样可以加速创新和解决问题的速度,也有助于提高软件的可靠性和安全性。开源项目通常遵循特定的开源许可证,比如 MIT 许可证、GNU 通用公共许可证等。 最后,我们看到提到的文件名称 "autoprefixer-php-master"。这个文件名表明,该压缩包可能包含一个 PHP 项目或库的主分支的源代码。"master" 通常是源代码管理系统(如 Git)中默认的主要分支名称,它代表项目的稳定版本或开发的主线。 综上所述,我们可以得知,这个 "autoprefixer-php" 工具允许开发者在 PHP 环境中使用 Node.js 的 Autoprefixer 功能,自动为 CSS 规则添加浏览器特定的前缀,从而使得开发者可以更专注于内容的编写而不必担心浏览器兼容性问题。
recommend-type

揭秘数字音频编码的奥秘:非均匀量化A律13折线的全面解析

# 摘要 数字音频编码技术是现代音频处理和传输的基础,本文首先介绍数字音频编码的基础知识,然后深入探讨非均匀量化技术,特别是A律压缩技术的原理与实现。通过A律13折线模型的理论分析和实际应用,本文阐述了其在保证音频信号质量的同时,如何有效地降低数据传输和存储需求。此外,本文还对A律13折线的优化策略和未来发展趋势进行了展望,包括误差控制、算法健壮性的提升,以及与新兴音频技术融合的可能性。 # 关键字 数字音频编码;非均匀量化;A律压缩;13折线模型;编码与解码;音频信号质量优化 参考资源链接:[模拟信号数字化:A律13折线非均匀量化解析](https://wenku.csdn.net/do
recommend-type

arduino PAJ7620U2

### Arduino PAJ7620U2 手势传感器 教程 #### 示例代码与连接方法 对于Arduino开发PAJ7620U2手势识别传感器而言,在Arduino IDE中的项目—加载库—库管理里找到Paj7620并下载安装,完成后能在示例里找到“Gesture PAJ7620”,其中含有两个示例脚本分别用于9种和15种手势检测[^1]。 关于连线部分,仅需连接四根线至Arduino UNO开发板上的对应位置即可实现基本功能。具体来说,这四条线路分别为电源正极(VCC),接地(GND),串行时钟(SCL)以及串行数据(SDA)[^1]。 以下是基于上述描述的一个简单实例程序展示如
recommend-type

网站啄木鸟:深入分析SQL注入工具的效率与限制

网站啄木鸟是一个指的是一类可以自动扫描网站漏洞的软件工具。在这个文件提供的描述中,提到了网站啄木鸟在发现注入漏洞方面的功能,特别是在SQL注入方面。SQL注入是一种常见的攻击技术,攻击者通过在Web表单输入或直接在URL中输入恶意的SQL语句,来欺骗服务器执行非法的SQL命令。其主要目的是绕过认证,获取未授权的数据库访问权限,或者操纵数据库中的数据。 在这个文件中,所描述的网站啄木鸟工具在进行SQL注入攻击时,构造的攻击载荷是十分基础的,例如 "and 1=1--" 和 "and 1>1--" 等。这说明它的攻击能力可能相对有限。"and 1=1--" 是一个典型的SQL注入载荷示例,通过在查询语句的末尾添加这个表达式,如果服务器没有对SQL注入攻击进行适当的防护,这个表达式将导致查询返回真值,从而使得原本条件为假的查询条件变为真,攻击者便可以绕过安全检查。类似地,"and 1>1--" 则会检查其后的语句是否为假,如果查询条件为假,则后面的SQL代码执行时会被忽略,从而达到注入的目的。 描述中还提到网站啄木鸟在发现漏洞后,利用查询MS-sql和Oracle的user table来获取用户表名的能力不强。这表明该工具可能无法有效地探测数据库的结构信息或敏感数据,从而对数据库进行进一步的攻击。 关于实际测试结果的描述中,列出了8个不同的URL,它们是针对几个不同的Web应用漏洞扫描工具(Sqlmap、网站啄木鸟、SqliX)进行测试的结果。这些结果表明,针对提供的URL,Sqlmap和SqliX能够发现注入漏洞,而网站啄木鸟在多数情况下无法识别漏洞,这可能意味着它在漏洞检测的准确性和深度上不如其他工具。例如,Sqlmap在针对 "http://www.2cto.com/news.php?id=92" 和 "http://www.2cto.com/article.asp?ID=102&title=Fast food marketing for children is on the rise" 的URL上均能发现SQL注入漏洞,而网站啄木鸟则没有成功。这可能意味着网站啄木鸟的检测逻辑较为简单,对复杂或隐蔽的注入漏洞识别能力不足。 从这个描述中,我们也可以了解到,在Web安全测试中,工具的多样性选择是十分重要的。不同的安全工具可能对不同的漏洞和环境有不同的探测能力,因此在实际的漏洞扫描过程中,安全测试人员需要选择合适的工具组合,以尽可能地全面地检测出应用中存在的漏洞。 在标签中指明了这是关于“sql注入”的知识,这表明了文件主题的核心所在。SQL注入是一种常见的网络攻击方式,安全测试人员、开发人员和网络管理员都需要对此有所了解,以便进行有效的防御和检测。 最后,提到了压缩包子文件的文件名称列表,其中包含了三个文件:setup.exe、MD5.exe、说明_Readme.html。这里提供的信息有限,但可以推断setup.exe可能是一个安装程序,MD5.exe可能是一个计算文件MD5散列值的工具,而说明_Readme.html通常包含的是软件的使用说明或者版本信息等。这些文件名暗示了在进行网站安全测试时,可能涉及到安装相关的软件工具,以及进行文件的校验和阅读相应的使用说明。然而,这些内容与文件主要描述的web安全漏洞检测主题不是直接相关的。
recommend-type

【GPStoolbox使用技巧大全】:20个实用技巧助你精通GPS数据处理

# 摘要 GPStoolbox是一个广泛应用于GPS数据处理的软件工具箱,它提供了从数据导入、预处理、基本分析到高级应用和自动化脚本编写的全套功能。本文介绍了GPStoolbox的基本概况、安装流程以及核心功能,探讨了如何
recommend-type

spring boot怎么配置maven

### 如何在 Spring Boot 项目中正确配置 Maven #### pom.xml 文件设置 `pom.xml` 是 Maven 项目的核心配置文件,在 Spring Boot 中尤为重要,因为其不仅管理着所有的依赖关系还控制着项目的构建流程。对于 `pom.xml` 的基本结构而言,通常包含如下几个部分: - **Project Information**: 定义了关于项目的元数据,比如模型版本、组ID、工件ID和版本号等基本信息[^1]。 ```xml <project xmlns="http://maven.apache.org/POM/4.0.0