import os import sqlite3 from bs4 import BeautifulSoup import re # 指定文件夹路径 folder_path = "C:/Users/test/Desktop/DIDItest" # 正则表达式模式 pattern = r'<body>(.*?)</body>' # 连接数据库 conn = sqlite3.connect('chat_data.db') cursor = conn.cursor() # 添加新的字段 cursor.execute("ALTER TABLE DIDI_talk ADD COLUMN file_name TEXT") # 遍历文件夹中的所有文件 for root, dirs, files in os.walk(folder_path): for file in files: # 读取html文件 file_path = os.path.join(root, file) with open(file_path, "r", encoding="utf-8-sig") as f: html_code = f.read() # 创建BeautifulSoup对象 soup = BeautifulSoup(html_code, 'html.parser') # 使用正则表达式匹配<body>标签内的数据 body_data = re.findall(pattern, html_code, re.DOTALL) # 剔除<p>和()</p> body_data = body_data[0].replace("<p>", "").replace("()</p>", "") # # 使用正则表达式提取链接地址 matches2 = re.findall(r'(?:中发言|发送)\s*(.*?)\s*(?:音频 :|图片 :)?(?:\[([^\]]+)\])?', body_data) for match in matches2: # 提取链接地址 file_text = match[1] matches = re.findall(r'"([^"]*)"', file_text) if matches: file_name = matches[0] else: file_name = "No matches found." # 替换字符 file_name = file_name.replace('No matches found.', '') new_data = [file_name] # 更新数据库中新字段的数据 for i, data in enumerate(new_data): cursor.execute("UPDATE DIDI_talk SET file_name = ? WHERE talk_id = ?", (data, i + 1)) # # 处理匹配结果并更新数据库 # for i, match in enumerate(matches): # file_name = matches[0] # new_column_data = new_data[i] # 根据匹配的索引获取对应的新数据 # 提交事务并关闭连接 conn.commit() conn.close() print("---新列数据已添加到数据库中---")
时间: 2024-04-17 07:27:15 浏览: 189
import sys import os import urllib from bs4 import BeautifulSoup
这段代码是一个Python脚本,它的功能是遍历指定文件夹中的HTML文件,提取文件中特定标签内的数据,并将提取的数据更新到SQLite数据库中的一个新字段中。
首先,脚本导入了所需的模块和库,包括`os`、`sqlite3`、`BeautifulSoup`和`re`等。
然后,指定了要遍历的文件夹路径,并定义了一个正则表达式模式用于匹配`<body>`标签内的数据。
接下来,连接到SQLite数据库,并添加一个新的字段到名为"DIDI_talk"的数据表中,使用了`ALTER TABLE`语句。
之后,通过使用`os.walk()`函数遍历文件夹中的所有文件,并使用`open()`函数读取HTML文件内容。
然后,创建了一个BeautifulSoup对象来解析HTML代码。
接着,使用正则表达式匹配`<body>`标签内的数据,并剔除了`<p>`和`()</p>`标签。
然后,使用正则表达式提取链接地址,并将提取到的文件名赋值给变量`file_name`。
接下来,将新的数据存储在列表`new_data`中。
然后,使用循环更新数据库中新字段的数据,通过执行UPDATE语句将提取到的文件名更新到数据库中。
最后,提交事务并关闭数据库连接,并打印出添加新列数据到数据库的提示信息。
请注意,这段代码中的一些部分可能需要根据您的具体需求进行修改,例如文件夹路径、数据库连接和表格名称等。
阅读全文