如何将python爬取的网站信息存到csv文件中
时间: 2024-03-02 17:53:00 浏览: 19
将爬取的网站信息存储到CSV文件中,可以使用Python内置的csv模块。下面是一个简单示例代码:
```python
import csv
# 爬取的网站信息
data = [
['姓名', '年龄', '性别'],
['张三', '20', '男'],
['李四', '25', '女'],
['王五', '30', '男']
]
# 将数据写入CSV文件
with open('data.csv', 'w', newline='') as csvfile:
writer = csv.writer(csvfile)
for row in data:
writer.writerow(row)
```
运行以上代码后,将在同级目录下生成一个名为data.csv的文件,文件内容如下:
```
姓名,年龄,性别
张三,20,男
李四,25,女
王五,30,男
```
在实际使用中,可以将爬取到的数据存储到一个列表中,然后使用csv.writer()方法将数据写入CSV文件中。注意,打开文件时需要指定打开模式为'w',并且设置newline='',这样可以避免写入CSV文件时出现多余的空行。
相关问题
python爬取京东数据存储到csv文件
好的,以下是一个简单的示例代码,可以爬取京东商品信息并将数据存储到CSV文件中:
```python
import requests
import csv
# 设置请求头
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
# 发送请求
response = requests.get('https://list.jd.com/list.html?cat=9987,653,655', headers=headers)
# 提取商品信息
products = []
for item in response.json()['wareList']:
product = {
'name': item['wname'],
'price': item['jdPrice']['price'],
'comments': item['comments']
}
products.append(product)
# 存储到CSV文件
with open('jd_products.csv', 'w', newline='', encoding='utf-8-sig') as csvfile:
fieldnames = ['name', 'price', 'comments']
writer = csv.DictWriter(csvfile, fieldnames=fieldnames)
writer.writeheader()
for product in products:
writer.writerow(product)
```
上面的代码中,我们使用requests库发送HTTP请求,然后解析响应中的JSON数据提取商品信息,最后将数据存储到CSV文件中。在存储CSV文件时,使用了csv模块的DictWriter类,可以方便地将字典数据写入到CSV文件中。
将python中爬取的poi数据存到csv中
将Python中爬取的POI数据存储到CSV文件中非常简单。以下是一个基本的步骤:
1. 首先,你需要在Python中打开一个CSV文件,并准备写入数据。你可以使用Python内置的CSV模块来实现这一点,例如:
```python
import csv
with open('poi_data.csv', mode='w', newline='') as file:
writer = csv.writer(file)
writer.writerow(['name', 'latitude', 'longitude', 'category'])
```
在这个例子中,我们创建了一个名为`poi_data.csv`的新文件,并写入了一个标题行。
2. 接下来,你需要将每个POI的数据写入CSV文件中。你可以使用`writerow`方法将数据写入文件。例如,如果你的POI数据是一个Python列表,其中每个元素包含名称、纬度、经度和类别信息,你可以使用以下代码将其写入CSV文件:
```python
import csv
poi_data = [
['POI 1', 39.9087, 116.3975, 'Restaurant'],
['POI 2', 39.9138, 116.3636, 'Hotel'],
['POI 3', 39.9230, 116.3883, 'Attraction']
]
with open('poi_data.csv', mode='a', newline='') as file:
writer = csv.writer(file)
for poi in poi_data:
writer.writerow(poi)
```
在这个例子中,我们打开了一个名为`poi_data.csv`的现有文件,并将每个POI的数据写入文件中。我们使用`a`模式打开文件,这意味着我们将数据追加到文件的末尾。
3. 最后,记得在程序结束时关闭CSV文件。你可以在文件处理完成后使用`close`方法来关闭文件,或者使用Python的`with`语句来自动关闭文件。例如,如果你在第一步中使用了`with`语句来打开CSV文件,那么文件将在代码块结束时自动关闭。
希望这可以帮助你将Python中爬取的POI数据存储到CSV文件中!