如何将爬取的数据存入数据库
时间: 2023-08-20 22:05:18 浏览: 105
python爬取招聘数据保存到mysql数据库
将爬取的数据存入数据库的步骤如下:
1. 安装数据库软件,比如 MySQL、PostgreSQL 等。
2. 创建数据库和数据表,可以使用 SQL 语句或者数据库客户端进行操作。
3. 在爬虫中连接数据库。
4. 将爬取到的数据存入数据库中。可以使用 SQL 语句或者 ORM 框架进行操作。
以下是一个使用 Python 和 MySQL 存储数据的示例代码:
```
import pymysql
# 连接数据库
conn = pymysql.connect(
host='localhost',
port=3306,
user='root',
password='123456',
database='test'
)
# 创建数据表
cursor = conn.cursor()
sql = '''
CREATE TABLE IF NOT EXISTS user (
id INT PRIMARY KEY AUTO_INCREMENT,
name VARCHAR(20) NOT NULL,
age INT NOT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;
'''
cursor.execute(sql)
# 爬虫爬取数据并存储到数据库中
data = [
{'name': '张三', 'age': 20},
{'name': '李四', 'age': 30},
{'name': '王五', 'age': 25},
]
for item in data:
sql = f"INSERT INTO user(name, age) VALUES('{item['name']}', {item['age']})"
cursor.execute(sql)
conn.commit()
# 关闭数据库连接
cursor.close()
conn.close()
```
在这个示例中,我们使用 pymysql 模块连接 MySQL 数据库,并创建了一个名为 user 的数据表。然后,我们使用 for 循环遍历爬取到的数据,并使用 INSERT INTO 语句将数据存入数据库中。最后,我们关闭了数据库连接。
阅读全文