jupyter notebook爬取数据分析

Jupyter Notebook是一个交互式的计算环境，非常适合用于数据爬取、清洗、分析和可视化。以下是在Jupyter Notebook中进行数据爬取和分析的一般步骤：

1. 安装必要的库：使用Python语言，你需要安装`requests`库来发送HTTP请求获取网页数据，以及如`BeautifulSoup`或`pandas`库来解析HTML和处理数据。

!pip install requests beautifulsoup4 pandas

2. 数据爬取（例如，使用`requests`）：
- 发送GET请求获取网页源代码：

   import requests
   url = 'http://example.com'
   response = requests.get(url)
   html_content = response.text

3. 解析数据（例如，使用`BeautifulSoup`）：

   from bs4 import BeautifulSoup
   soup = BeautifulSoup(html_content, 'html.parser')
   data = soup.find_all('tag_name')  # 根据需要替换'tag_name'

4. 数据清洗和预处理：使用`pandas`将HTML解析后的数据转换为DataFrame：

   import pandas as pd
   data_list = [item.text for item in data]
   df = pd.DataFrame(data_list, columns=['Column'])  # 根据实际内容调整列名

5. 数据分析：使用pandas的统计方法、数据过滤、排序等函数进行分析：

   df.describe()  # 查看基本描述性统计
   df.groupby('column').mean()  # 按照某一列进行分组平均

6. 可视化：利用`matplotlib`或`seaborn`创建图表展示数据：

   import matplotlib.pyplot as plt
   df.plot(kind='bar', x='column1', y='column2')  # 替换'column1'和'column2'
   plt.show()