def save_txt(str_list:list,name): with open(name,'w',encoding='utf-8') as f: for i in str_list: f.write(i+'\n')

时间: 2024-05-21 12:17:49 浏览: 9
这是一个保存列表到文本文件的函数,函数名为`save_txt`,接收两个参数:`str_list`和`name`。其中,`str_list`是要保存的字符串列表,`name`是要保存到的文件名。 函数内部使用`with open`语句打开文件并指定写入模式和编码方式。然后遍历`str_list`中的每个字符串,将其写入文件并在每个字符串末尾添加一个换行符。最后,自动关闭文件。
相关问题

import requests from bs4 import BeautifulSoup import csv def get_top250_movies(): url = 'https://movie.douban.com/top250' headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'} movie_info_list = [] for i in range(0, 250, 25): params = {'start': str(i)} res = requests.get(url, headers=headers, params=params) soup = BeautifulSoup(res.text, 'html.parser') movie_list = soup.find_all('div', class_='info') for movie in movie_list: title = movie.find('span', class_='title').text info = movie.find('div', class_='bd').p.text.strip().split('\n') director = info[0][4:] actors = info[1][3:] year = info[1][-5:-1] rating = movie.find('span', class_='rating_num').text comment_num = movie.find('div', class_='star').find_all('span')[3].text[:-3] movie_info_list.append([title, director, actors, year, rating, comment_num]) return movie_info_list def save_to_csv(movie_info_list): with open('movie_info.csv', 'w', newline='', encoding='utf-8-sig') as f: writer = csv.writer(f) writer.writerow(['电影名称', '导演', '演员', '上映年份', '评分', '评论数']) for movie_info in movie_info_list: writer.writerow(movie_info) if __name__ == '__main__': movie_info_list = get_top250_movies() save_to_csv(movie_info_list) print('电影信息保存成功!')将此代码运行成功后保存的六个信息分别单独成一列

可以在save_to_csv函数中将每个信息分别写入csv文件中的一列,修改后代码如下: ```python import requests from bs4 import BeautifulSoup import csv def get_top250_movies(): url = 'https://movie.douban.com/top250' headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3' } movie_info_list = [] for i in range(0, 250, 25): params = {'start': str(i)} res = requests.get(url, headers=headers, params=params) soup = BeautifulSoup(res.text, 'html.parser') movie_list = soup.find_all('div', class_='info') for movie in movie_list: title = movie.find('span', class_='title').text info = movie.find('div', class_='bd').p.text.strip().split('\n') director = info[0][4:] actors = info[1][3:] year = info[1][-5:-1] rating = movie.find('span', class_='rating_num').text comment_num = movie.find('div', class_='star').find_all('span')[3].text[:-3] movie_info_list.append([title, director, actors, year, rating, comment_num]) return movie_info_list def save_to_csv(movie_info_list): with open('movie_info.csv', 'w', newline='', encoding='utf-8-sig') as f: writer = csv.writer(f) writer.writerow(['电影名称', '导演', '演员', '上映年份', '评分', '评论数']) for movie_info in movie_info_list: writer.writerow(movie_info) # 将每个信息分别写入csv文件中的一列 with open('movie_info.csv', 'r', newline='', encoding='utf-8-sig') as f_read: with open('movie_info_new.csv', 'w', newline='', encoding='utf-8-sig') as f_write: reader = csv.reader(f_read) writer = csv.writer(f_write) for row in reader: for i in range(len(row)): writer.writerow([row[i]]) # 删除原文件 import os os.remove('movie_info.csv') # 重命名新文件 os.rename('movie_info_new.csv', 'movie_info.csv') if __name__ == '__main__': movie_info_list = get_top250_movies() save_to_csv(movie_info_list) print('电影信息保存成功!') ``` 运行修改后的代码,会在同级目录下生成一个名为'movie_info.csv'的文件,其中每个信息分别单独成一列。

import http.client from html.parser import HTMLParser import argparse from concurrent.futures import ThreadPoolExecutor import multiprocessing.pool prefix = "save/" readed_path = multiprocessing.Manager().list() cur_path = multiprocessing.Manager().list() new_path = multiprocessing.Manager().list() lock = multiprocessing.Lock() class MyHttpParser(HTMLParser): def __init__(self): HTMLParser.__init__(self) self.tag = [] self.href = "" self.txt = "" def handle_starttag(self, tag, attrs): self.tag.append(tag) # print("start tag in list :" + str(self.tag)) if tag == "a": for att in attrs: if att[0] == 'href': self.href = att[1] def handle_endtag(self, tag): if tag == "a" and len(self.tag) > 2 and self.tag[-2] == "div": print("in div, link txt is %s ." % self.txt) print("in div, link url is %s ." % self.href) lock.acquire() if not self.href in readed_path: readed_path.append(self.href) new_path.append(self.href) # print("end tag in list :" + str(self.tag)) lock.release() self.tag.pop(-1) def handle_data(self, data): if len(self.tag) >= 1 and self.tag[-1] == "a": self.txt = data def LoadHtml(path, file_path): if len(file_path) == 0: file_path = "/" conn = http.client.HTTPConnection(path) try: conn.request("GET", file_path) response = conn.getresponse() print(response.status, response.reason, response.version) data = response.read().decode("utf-8") if response.status == 301: data = response.getheader("Location") lock.acquire() new_path.append(data) lock.release() data = "" #print(data) conn.close() return data except Exception as e: print(e.args) def ParseArgs(): # 初始化解析器 parser = argparse.ArgumentParser() # 定义参数 parser.add_argument("-p", "--path", help="域名") parser.add_argument("-d", "--deep", type=int, help="递归深度") # 解析 args = parser.parse_args() return args def formatPath(path): path = path.removeprefix("https://") path = path.removeprefix("http://") path = path.removeprefix("//") return path def doWork(path): path = formatPath(path) m = path.find("/") if m == -1: m = len(path) data = LoadHtml(path[:m], path[m:]) with open(prefix + path[:m] + ".html", "w+", encoding="utf-8") as f: f.write(data) parse.feed(data) def work(deep,maxdeep): if deep > maxdeep: return args = ParseArgs() cur_path.append(formatPath(args.path)) readed_path.append(formatPath(args.path)) parse = MyHttpParser() e = multiprocessing.Pool(4) for i in range(args.deep): size = len(cur_path) e.map(doWork,cur_path) cur_path[:]=[] for p in new_path: cur_path.append(p) new_path[:]=[] print(i)优化此代码能在windows下运行

在Windows下,`multiprocessing` 库不支持在交互式(interactive)窗口下运行,需要将其放在一个独立的脚本中运行。另外,如果要使用 `multiprocessing.Manager().list()` 实现进程间共享数据,需要使用 `multiprocessing.Manager()` 返回的对象来创建进程池(`multiprocessing.Pool()`)。 以下是对代码的优化: 1. 将 `multiprocessing.Manager().list()` 替换为 `multiprocessing.Manager().Queue()`,因为 Queue 更适合用于进程间通信。 2. 将 `multiprocessing.Pool()` 替换为 `concurrent.futures.ProcessPoolExecutor()`,因为后者可以更好地处理进程池中的异常。 3. 将 `work()` 函数改为使用 `concurrent.futures.ProcessPoolExecutor()` 来执行任务。 4. 将 `MyHttpParser` 类的属性(`tag`、`href`、`txt`)改为实例属性,因为多个进程可能同时访问这些属性。 5. 在 `doWork()` 函数中,改为使用 `requests` 库来发送 HTTP 请求,因为它比 `http.client` 更易用。 以下是优化后的代码: ```python import requests from html.parser import HTMLParser import argparse from concurrent.futures import ThreadPoolExecutor, ProcessPoolExecutor, as_completed import multiprocessing prefix = "save/" readed_path = multiprocessing.Manager().Queue() cur_path = multiprocessing.Manager().Queue() new_path = multiprocessing.Manager().Queue() lock = multiprocessing.Lock() class MyHttpParser(HTMLParser): def __init__(self): super().__init__() self.tag = [] self.href = "" self.txt = "" def handle_starttag(self, tag, attrs): self.tag.append(tag) if tag == "a": for att in attrs: if att[0] == 'href': self.href = att[1] def handle_endtag(self, tag): if tag == "a" and len(self.tag) > 2 and self.tag[-2] == "div": print("in div, link txt is %s ." % self.txt) print("in div, link url is %s ." % self.href) if not self.href in readed_path.queue: readed_path.put(self.href) new_path.put(self.href) self.tag.pop(-1) def handle_data(self, data): if len(self.tag) >= 1 and self.tag[-1] == "a": self.txt = data def LoadHtml(path, file_path): if len(file_path) == 0: file_path = "/" url = f"http://{path}{file_path}" try: response = requests.get(url) print(response.status_code, response.reason, response.raw.version) data = response.content.decode("utf-8") if response.status_code == 301: data = response.headers["Location"] if not data in readed_path.queue: new_path.put(data) data = "" return data except Exception as e: print(e.args) def ParseArgs(): parser = argparse.ArgumentParser() parser.add_argument("-p", "--path", help="domain name") parser.add_argument("-d", "--deep", type=int, help="recursion depth") args = parser.parse_args() return args def formatPath(path): path = path.removeprefix("https://") path = path.removeprefix("http://") path = path.removeprefix("//") return path def doWork(path): path = formatPath(path) m = path.find("/") if m == -1: m = len(path) data = LoadHtml(path[:m], path[m:]) with open(prefix + path[:m] + ".html", "w+", encoding="utf-8") as f: f.write(data) parse.feed(data) def work(maxdeep): args = ParseArgs() cur_path.put(formatPath(args.path)) readed_path.put(formatPath(args.path)) parse = MyHttpParser() with ProcessPoolExecutor(max_workers=4) as executor: for i in range(args.deep): size = cur_path.qsize() futures = [executor.submit(doWork, cur_path.get()) for _ in range(size)] for future in as_completed(futures): try: future.result() except Exception as e: print(e) cur_path.queue.clear() while not new_path.empty(): cur_path.put(new_path.get()) print(i) if __name__ == '__main__': work(5) ```

相关推荐

import http.clientfrom html.parser import HTMLParserimport argparsefrom concurrent.futures import ThreadPoolExecutorimport threadingprefix = "save/"readed_path = set()cur_path = []new_path = []lock = threading.Lock()cond=threading.Condition()class MyHttpParser(HTMLParser): def __init__(self): HTMLParser.__init__(self) self.tag = [] self.href = "" self.txt = "" def handle_starttag(self, tag, attrs): self.tag.append(tag) # print("start tag in list :" + str(self.tag)) if tag == "a": for att in attrs: if att[0] == 'href': self.href = att[1] def handle_endtag(self, tag): if tag == "a" and len(self.tag) > 2 and self.tag[-2] == "div": print("in div, link txt is %s ." % self.txt) print("in div, link url is %s ." % self.href) if not self.href in readed_path: readed_path.add(self.href) lock.acquire() new_path.append(self.href) lock.release() # print("end tag in list :" + str(self.tag)) self.tag.pop(-1) def handle_data(self, data): if len(self.tag) >= 1 and self.tag[-1] == "a": self.txt = datadef LoadHtml(path, file_path): if len(file_path) == 0: file_path = "/" conn = http.client.HTTPConnection(path) try: conn.request("GET", file_path) response = conn.getresponse() print(response.status, response.reason, response.version) data = response.read().decode("utf-8") if response.status == 301: data = response.getheader("Location") lock.acquire() new_path.append(data) lock.release() data = "" #print(data) conn.close() return data except Exception as e: print(e.args)怎么设置文件的保存路径

最新推荐

recommend-type

ChatGPT原理1-3

ChatGPT原理1-3
recommend-type

aiohttp-3.4.0b2.tar.gz

Python库是一组预先编写的代码模块,旨在帮助开发者实现特定的编程任务,无需从零开始编写代码。这些库可以包括各种功能,如数学运算、文件操作、数据分析和网络编程等。Python社区提供了大量的第三方库,如NumPy、Pandas和Requests,极大地丰富了Python的应用领域,从数据科学到Web开发。Python库的丰富性是Python成为最受欢迎的编程语言之一的关键原因之一。这些库不仅为初学者提供了快速入门的途径,而且为经验丰富的开发者提供了强大的工具,以高效率、高质量地完成复杂任务。例如,Matplotlib和Seaborn库在数据可视化领域内非常受欢迎,它们提供了广泛的工具和技术,可以创建高度定制化的图表和图形,帮助数据科学家和分析师在数据探索和结果展示中更有效地传达信息。
recommend-type

小程序版通过CNN训练识别印刷体数字和字母-不含数据集图片-含逐行注释和说明文档.zip

本代码是基于python pytorch环境安装的。 总共是3个py文件,十分的简便 且代码里面的每一行都是含有中文注释的,小白也能看懂代码 然后是关于数据集的介绍。 本代码是不含数据集图片的,下载本代码后需要自行搜集图片放到对应的文件夹下即可 在数据集文件夹下是我们的各个类别,这个类别不是固定的,可自行创建文件夹增加分类数据集 需要我们往每个文件夹下搜集来图片放到对应文件夹下,每个对应的文件夹里面也有一张提示图,提示图片放的位置 然后我们需要将搜集来的图片,直接放到对应的文件夹下,就可以对代码进行训练了。 运行01数据集文本生成制作.py,是将数据集文件夹下的图片路径和对应的标签生成txt格式,划分了训练集和验证集。 运行02深度学习模型训练.py就会将txt文本中记录的训练集和验证集进行读取训练,训练好后会保存模型在本地。训练完成之后会有log日志保存本地,里面记录了每个epoch的验证集损失值和准确率。 运行03flask_服务端.py就可以生成与小程序交互的url了 然后需要我们运行微信开发者工具,如果之前没有下载过,则需要在电脑网页上,搜微信开发者工具进行下载。 导入我们的小
recommend-type

AI+智慧校园建设方案PPT(100页).pptx

智慧校园大数据信息化AIOT平台建设整体解决方案是一个综合性的校园智能化升级计划,旨在通过应用物联网、大数据、人工智能等高新技术,打造一个安全、便捷、绿色的校园环境。该方案遵循国家教育信息化2.0规划和相关标准,强调技术在教育领域的深度应用。 方案的核心内容包括全场景的智能互联、物信融合、AI赋能创新应用,以及校园营运指挥中心的建设。它涵盖了智慧管理、智慧服务、智慧教学等多个方面,通过SAAS、PAAS、DAAS、IAAS等多层次的系统架构,实现从数据存储、管理到智能分析和应用的全面覆盖。 智慧应用聚焦于校园特色场景,如教室、宿舍、图书馆和食堂,通过AI视频智能分析技术,提供便捷服务。方案还包括智能安防、智慧消防、能耗监管等,以实现校园的智能化管理。例如,人脸门禁系统提供无感通行,提高安全性和便捷性;车辆管理系统通过轨迹分析和布控,优化交通秩序。 此外,方案还强调了智能照明、智能水控和电控等节能环保措施,以及通过智能语音分析和录播方案提升教学质量。智慧宿舍通过人脸宿管和智能节电,提高宿舍管理效率。整体上,该方案通过技术集成和创新,推动校园向智能化、信息化转型,为师生创造更安全、便捷、环保的学习和生活环境。
recommend-type

爬壁清洗机器人设计.doc

"爬壁清洗机器人设计" 爬壁清洗机器人是一种专为高层建筑外墙或屋顶清洁而设计的自动化设备。这种机器人能够有效地在垂直表面移动,完成高效且安全的清洗任务,减轻人工清洁的危险和劳动强度。在设计上,爬壁清洗机器人主要由两大部分构成:移动系统和吸附系统。 移动系统是机器人实现壁面自由移动的关键。它采用了十字框架结构,这种设计增加了机器人的稳定性,同时提高了其灵活性和避障能力。十字框架由两个呈十字型组合的无杆气缸构成,它们可以在X和Y两个相互垂直的方向上相互平移。这种设计使得机器人能够根据需要调整位置,适应不同的墙面条件。无杆气缸通过腿部支架与腿足结构相连,腿部结构包括拉杆气缸和真空吸盘,能够交替吸附在壁面上,实现机器人的前进、后退、转弯等动作。 吸附系统则由真空吸附结构组成,通常采用多组真空吸盘,以确保机器人在垂直壁面上的牢固吸附。文中提到的真空吸盘组以正三角形排列,这种方式提供了均匀的吸附力,增强了吸附稳定性。吸盘的开启和关闭由气动驱动,确保了吸附过程的快速响应和精确控制。 驱动方式是机器人移动的动力来源,由X方向和Y方向的双作用无杆气缸提供。这些气缸安置在中间的主体支架上,通过精确控制,实现机器人的精准移动。这种驱动方式既保证了力量,又确保了操作的精度。 控制系统作为爬壁清洗机器人的大脑,采用三菱公司的PLC-FX1N系列,负责管理机器人的各个功能,包括吸盘的脱离与吸附、主体的移动、清洗作业的执行等。PLC(可编程逻辑控制器)具有高可靠性,能根据预设程序自动执行指令,确保机器人的智能操作。 爬壁清洗机器人结合了机械结构、气动控制和智能电子技术,实现了在复杂环境下的自主清洁任务。其设计考虑了灵活性、稳定性和安全性,旨在提高高层建筑清洁工作的效率和安全性。
recommend-type

管理建模和仿真的文件

管理Boualem Benatallah引用此版本:布阿利姆·贝纳塔拉。管理建模和仿真。约瑟夫-傅立叶大学-格勒诺布尔第一大学,1996年。法语。NNT:电话:00345357HAL ID:电话:00345357https://theses.hal.science/tel-003453572008年12月9日提交HAL是一个多学科的开放存取档案馆,用于存放和传播科学研究论文,无论它们是否被公开。论文可以来自法国或国外的教学和研究机构,也可以来自公共或私人研究中心。L’archive ouverte pluridisciplinaire
recommend-type

Python并发编程:从新手到专家的进阶之路(多线程与多进程篇)

![Python并发编程:从新手到专家的进阶之路(多线程与多进程篇)](https://img-blog.csdnimg.cn/12b70559909c4535891adbdf96805846.png) # 1. Python并发编程基础** 并发编程是一种编程范式,它允许程序同时执行多个任务。在Python中,可以通过多线程和多进程来实现并发编程。 多线程是指在单个进程中创建多个线程,每个线程可以独立执行任务。多进程是指创建多个进程,每个进程都有自己的内存空间和资源。 选择多线程还是多进程取决于具体应用场景。一般来说,多线程适用于任务之间交互较少的情况,而多进程适用于任务之间交互较多或
recommend-type

matlab小程序代码

MATLAB是一款强大的数值计算和可视化工具,特别适合进行科学计算、工程分析和数据可视化。编写MATLAB小程序通常涉及使用其内置的数据类型、函数库以及面向对象编程特性。以下是一个简单的MATLAB代码示例,用于计算两个数的和: ```matlab % MATLAB程序:计算两个数的和 function sum = addTwoNumbers(num1, num2) % 定义函数 sum = num1 + num2; % 返回结果 disp(['The sum of ' num2str(num1) ' and ' num2str(num2) ' is ' nu
recommend-type

喷涂机器人.doc

"该文档详细介绍了喷涂机器人的设计与研发,包括其背景、现状、总体结构、机构设计、轴和螺钉的校核,并涉及到传感器选择等关键环节。" 喷涂机器人是一种结合了人类智能和机器优势的机电一体化设备,特别在自动化水平高的国家,其应用广泛程度是衡量自动化水平的重要指标。它们能够提升产品质量、增加产量,同时在保障人员安全、改善工作环境、减轻劳动强度、提高劳动生产率和节省原材料等方面具有显著优势。 第一章绪论深入探讨了喷涂机器人的研究背景和意义。课题研究的重点在于分析国内外研究现状,指出国内主要集中在基础理论和技术的应用,而国外则在技术创新和高级功能实现上取得更多进展。文章明确了本文的研究内容,旨在通过设计高效的喷涂机器人来推动相关技术的发展。 第二章详细阐述了喷涂机器人的总体结构设计,包括驱动系统的选择(如驱动件和自由度的确定),以及喷漆机器人的运动参数。各关节的结构形式和平衡方式也被详细讨论,如小臂、大臂和腰部的传动机构。 第三章主要关注喷漆机器人的机构设计,建立了数学模型进行分析,并对腕部、小臂和大臂进行了具体设计。这部分涵盖了电机的选择、铰链四杆机构设计、液压缸设计等内容,确保机器人的灵活性和精度。 第四章聚焦于轴和螺钉的设计与校核,以确保机器人的结构稳定性。大轴和小轴的结构设计与强度校核,以及回转底盘与腰部主轴连接螺钉的校核,都是为了保证机器人在运行过程中的可靠性和耐用性。 此外,文献综述和外文文献分析提供了更广泛的理论支持,开题报告则展示了整个研究项目的目标和计划。 这份文档全面地展示了喷涂机器人的设计过程,从概念到实际结构,再到部件的强度验证,为读者提供了深入理解喷涂机器人技术的宝贵资料。
recommend-type

"互动学习:行动中的多样性与论文攻读经历"

多样性她- 事实上SCI NCES你的时间表ECOLEDO C Tora SC和NCESPOUR l’Ingén学习互动,互动学习以行动为中心的强化学习学会互动,互动学习,以行动为中心的强化学习计算机科学博士论文于2021年9月28日在Villeneuve d'Asq公开支持马修·瑟林评审团主席法布里斯·勒菲弗尔阿维尼翁大学教授论文指导奥利维尔·皮耶昆谷歌研究教授:智囊团论文联合主任菲利普·普雷教授,大学。里尔/CRISTAL/因里亚报告员奥利维耶·西格德索邦大学报告员卢多维奇·德诺耶教授,Facebook /索邦大学审查员越南圣迈IMT Atlantic高级讲师邀请弗洛里安·斯特鲁布博士,Deepmind对于那些及时看到自己错误的人...3谢谢你首先,我要感谢我的两位博士生导师Olivier和Philippe。奥利维尔,"站在巨人的肩膀上"这句话对你来说完全有意义了。从科学上讲,你知道在这篇论文的(许多)错误中,你是我可以依