用Python对http://plap.mil.cn/freecms/site/juncai/cggg/index.html进行爬虫

时间: 2023-07-06 13:43:11 浏览: 72
好的,我可以为您提供一个基本的Python爬虫代码,用于爬取http://plap.mil.cn/freecms/site/juncai/cggg/index.html 页面上的内容。请注意,网站的访问频率和数据使用必须遵守相关法律法规和网站规定,本代码仅供学习和参考使用。 ```python import requests from bs4 import BeautifulSoup url = 'http://plap.mil.cn/freecms/site/juncai/cggg/index.html' response = requests.get(url) soup = BeautifulSoup(response.text, 'html.parser') for item in soup.select('.list li'): title = item.select_one('a').text.strip() date = item.select_one('.date').text.strip() link = item.select_one('a')['href'] print(title, date, link) ``` 这段代码使用了Requests库和BeautifulSoup库,首先发送了一个GET请求获取页面的HTML代码,然后使用BeautifulSoup解析页面的HTML代码,最后遍历页面上所有的列表项,并输出每个列表项的标题、日期和链接。您可以根据您自己的需求进行修改和扩展。
相关问题

以上问题如何更改

请参考以下代码,修改后应该可以正常发送请求了: ```python # -*- coding: utf-8 -*- import scrapy from ..items import NpmItem h = { 'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/113.0.0.0 Safari/537.36 Edg/113.0.1774.57' } class StartSpiderSpider(scrapy.Spider): name = 'start_spider' allowed_domains = ['www.plap.cn'] start_urls = ['https://www.plap.cn/index/selectIndexNewsByTypeId.html?page=1&id=110&title='] def parse(self, response): list_li = response.xpath('/html/body/div[3]/div[2]/ul/li') for i in list_li: items = NpmItem() items['title'] = i.xpath('./a/@title').get() items['time'] = i.xpath('./span/text()').get() href = i.xpath('./a/@href').get() url = response.urljoin(href) yield scrapy.Request(url=url, headers=h, callback=self.detail, meta={'item': items}) # 继续访问下一页 next_page = response.xpath('//a[@class="next-page"]/@href') if next_page: next_url = response.urljoin(next_page.get()) yield scrapy.Request(url=next_url, headers=h, callback=self.parse) def detail(self, response): items = response.meta['item'] detail_url = response.xpath('/html/body/div[3]/div/div[2]/img/@src').get() if detail_url: detail_url = response.urljoin(detail_url) items['detail'] = detail_url yield items ``` 修改内容: 1. allowed_domains 修改为 ['www.plap.cn']。 2. start_urls 放开注释。 3. 在 parse 函数中将 items 对象的创建移到 for 循环内,每个新闻的 title 和 time 都对应一个新的 items 对象。 4. 在 parse 函数中,加入对下一页的访问,避免只访问第一页。 5. 在 detail 函数中,使用 response.meta['item'] 获取传递的 items 对象,修正了之前的错误。 6. 在 detail 函数中,使用 response.urljoin() 方法将相对路径转换成绝对路径。

相关推荐

最新推荐

recommend-type

发卡系统源码无授权版 带十多套模板

发卡系统源码无授权版 带十多套模板
recommend-type

STM32F103系列PWM输出应用之纸短情长音乐——无源蜂鸣器.rar

STM32F103系列PWM输出应用之纸短情长音乐——无源蜂鸣器
recommend-type

基于matlab开发的rvm回归预测 RVM采取是与支持向量机相同的函数形式稀疏概率模型,对未知函数进行预测或分类.rar

基于matlab开发的rvm回归预测 RVM采取是与支持向量机相同的函数形式稀疏概率模型,对未知函数进行预测或分类.rar
recommend-type

STM32 CubeMX FreeRtos系统 基于lwRB通用环形缓冲区的串口非阻塞发送

STM32工具 CubeMX 使用FreeRtos系统 基于lwRB通用环形缓冲区的串口非阻塞发送,程序使用printf,通过重定向fputc函数,将发送数据保存在FIFO中,可以在中断中调用printf,保证了系统的线程安全和中断安全,将发送任务放在线程中。LwRB有两个指针一个r读指,一个w写指针,底层采用原子操作,不需要用到锁,保证了线程安全,最大的好处是它是支持DMA的,为CPU减负。
recommend-type

整站程序EasyJF官网全站源码-easyjfcom-src.rar

EasyJF官网全站源码_easyjfcom_src.rar是一个针对计算机专业的JSP源码资料包,它包含了丰富的内容和功能,旨在帮助开发人员快速构建和管理网站。这个源码包基于Java技术栈,使用JSP(JavaServer Pages)作为前端页面渲染技术,结合了Servlet、JavaBean等后端组件,为开发者提供了一个稳定、高效的开发环境。通过使用这个源码包,开发者可以快速搭建一个具有基本功能的网站建设平台。它提供了用户注册、登录、权限管理等基本功能,同时也支持文章发布、分类管理、评论互动等常见内容管理操作。此外,源码包还包含了一些实用的辅助工具,如文件上传、数据导出等,方便开发者进行网站的维护和管理。在界面设计方面,EasyJF官网全站源码采用了简洁、易用的设计风格,使得用户可以轻松上手并进行个性化定制。同时,它还提供了一些可扩展的插件和模板,开发者可以根据自己的需求进行修改和扩展,实现更多的功能和效果。总之,EasyJF官网全站源码_easyjfcom_src.rar是一个功能强大、易于使用的计算机专业JSP源码资料包,适用于各类网站建设项目。无论是初学者还是有经验的开发者
recommend-type

RTL8188FU-Linux-v5.7.4.2-36687.20200602.tar(20765).gz

REALTEK 8188FTV 8188eus 8188etv linux驱动程序稳定版本, 支持AP,STA 以及AP+STA 共存模式。 稳定支持linux4.0以上内核。
recommend-type

管理建模和仿真的文件

管理Boualem Benatallah引用此版本:布阿利姆·贝纳塔拉。管理建模和仿真。约瑟夫-傅立叶大学-格勒诺布尔第一大学,1996年。法语。NNT:电话:00345357HAL ID:电话:00345357https://theses.hal.science/tel-003453572008年12月9日提交HAL是一个多学科的开放存取档案馆,用于存放和传播科学研究论文,无论它们是否被公开。论文可以来自法国或国外的教学和研究机构,也可以来自公共或私人研究中心。L’archive ouverte pluridisciplinaire
recommend-type

:YOLOv1目标检测算法:实时目标检测的先驱,开启计算机视觉新篇章

![:YOLOv1目标检测算法:实时目标检测的先驱,开启计算机视觉新篇章](https://img-blog.csdnimg.cn/img_convert/69b98e1a619b1bb3c59cf98f4e397cd2.png) # 1. 目标检测算法概述 目标检测算法是一种计算机视觉技术,用于识别和定位图像或视频中的对象。它在各种应用中至关重要,例如自动驾驶、视频监控和医疗诊断。 目标检测算法通常分为两类:两阶段算法和单阶段算法。两阶段算法,如 R-CNN 和 Fast R-CNN,首先生成候选区域,然后对每个区域进行分类和边界框回归。单阶段算法,如 YOLO 和 SSD,一次性执行检
recommend-type

info-center source defatult

这是一个 Cisco IOS 命令,用于配置 Info Center 默认源。Info Center 是 Cisco 设备的日志记录和报告工具,可以用于收集和查看设备的事件、警报和错误信息。该命令用于配置 Info Center 默认源,即设备的默认日志记录和报告服务器。在命令行界面中输入该命令后,可以使用其他命令来配置默认源的 IP 地址、端口号和协议等参数。
recommend-type

c++校园超市商品信息管理系统课程设计说明书(含源代码) (2).pdf

校园超市商品信息管理系统课程设计旨在帮助学生深入理解程序设计的基础知识,同时锻炼他们的实际操作能力。通过设计和实现一个校园超市商品信息管理系统,学生掌握了如何利用计算机科学与技术知识解决实际问题的能力。在课程设计过程中,学生需要对超市商品和销售员的关系进行有效管理,使系统功能更全面、实用,从而提高用户体验和便利性。 学生在课程设计过程中展现了积极的学习态度和纪律,没有缺勤情况,演示过程流畅且作品具有很强的使用价值。设计报告完整详细,展现了对问题的深入思考和解决能力。在答辩环节中,学生能够自信地回答问题,展示出扎实的专业知识和逻辑思维能力。教师对学生的表现予以肯定,认为学生在课程设计中表现出色,值得称赞。 整个课程设计过程包括平时成绩、报告成绩和演示与答辩成绩三个部分,其中平时表现占比20%,报告成绩占比40%,演示与答辩成绩占比40%。通过这三个部分的综合评定,最终为学生总成绩提供参考。总评分以百分制计算,全面评估学生在课程设计中的各项表现,最终为学生提供综合评价和反馈意见。 通过校园超市商品信息管理系统课程设计,学生不仅提升了对程序设计基础知识的理解与应用能力,同时也增强了团队协作和沟通能力。这一过程旨在培养学生综合运用技术解决问题的能力,为其未来的专业发展打下坚实基础。学生在进行校园超市商品信息管理系统课程设计过程中,不仅获得了理论知识的提升,同时也锻炼了实践能力和创新思维,为其未来的职业发展奠定了坚实基础。 校园超市商品信息管理系统课程设计的目的在于促进学生对程序设计基础知识的深入理解与掌握,同时培养学生解决实际问题的能力。通过对系统功能和用户需求的全面考量,学生设计了一个实用、高效的校园超市商品信息管理系统,为用户提供了更便捷、更高效的管理和使用体验。 综上所述,校园超市商品信息管理系统课程设计是一项旨在提升学生综合能力和实践技能的重要教学活动。通过此次设计,学生不仅深化了对程序设计基础知识的理解,还培养了解决实际问题的能力和团队合作精神。这一过程将为学生未来的专业发展提供坚实基础,使其在实际工作中能够胜任更多挑战。