写一段全新的爬虫代码 要求爬取b站数据

好的，我可以帮您写一段爬取 B站 数据的代码。这里提供一个简单的 Python 代码示例：

import requests
import json

url = 'https://api.bilibili.com/x/web-interface/popular/recommend'
headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'
}

response = requests.get(url, headers=headers)
data = json.loads(response.text)
results = data['data']['list']

for result in results:
    title = result['title']
    author = result['author']
    play_url = result['play_url']
    print('Title: {}\nAuthor: {}\nURL: {}\n'.format(title, author, play_url))

这段代码使用了 requests 库进行网络请求，并通过 JSON 解析获取了 B站热门推荐视频的相关信息，如标题、作者和播放链接等。您可以根据需要进行修改和扩展。

相关问题

python爬虫爬取b站视频数据

### 如何使用 Python 编写爬虫抓取 B 站视频数据

#### 准备工作
为了实现这一目标，需要安装一些必要的库。这些库可以帮助处理 HTTP 请求、解析 JSON 数据以及管理异步操作。

pip install requests aiohttp bilibili-api-python

#### 抓取视频基本信息

通过调用 `bilibili-api` 库中的接口方法可以直接获取到指定 AV/BV 号的视频详情：

from bilibili_api import video as bvid_video, sync

def fetch_basic_info(bv_id):
    v = bvid_video.Video(bvid=bv_id)
    info_dict = sync(v.get_info())
    
    title = info_dict['title']
    pub_date = info_dict['pubdate']  # 时间戳形式返回发布时间
    
    return {
        "标题": title,
        "发布时间": pub_date
    }

此部分代码利用了第三方封装好的 API 接口来简化请求过程[^1]。

#### 获取弹幕列表

针对每一条视频记录其对应的 XML 格式的弹幕文件链接，并下载保存至本地；接着读取该文件提取其中的有效字段完成进一步的数据挖掘任务。

import xml.etree.ElementTree as ET
from datetime import datetime


async def download_danmaku(video_bvid, output_file='danmakus.xml'):
    vid = bvid_video.Video(bvid=video_bvid)
    danmu_url = await vid.get_dm_xml()
    
    async with aiohttp.ClientSession() as session:
        resp = await session.get(danmu_url[0])
        content = await resp.text()

        with open(output_file, 'w', encoding='utf8') as f:
            f.write(content)

# 解析XML格式的弹幕文档
def parse_danmaku(file_path):
    tree = ET.parse(file_path)
    root = tree.getroot()
    
    items = []
    for item in root.findall('d'):
        text = item.text.strip()
        timestamp_str = float(item.attrib['p'].split(',')[0])  # 提取消息显示的时间轴位置
        
        formatted_time = str(datetime.fromtimestamp(timestamp_str))
        
        items.append({
            "content": text,
            "time": formatted_time
        })
    
    return items

上述函数实现了从远程服务器拉取特定编号影片关联的所有即时聊天消息并将其转换成易于理解的形式存储下来供后续分析使用[^2]。

#### 清洗与统计分析

对于收集来的原始弹幕资料而言，在正式投入应用之前往往还需要经历一系列预处理环节，比如去除无关字符、过滤敏感词汇等。之后再基于清理后的高质量语料开展诸如词频计算之类的量化研究活动。

import jieba.analyse
import matplotlib.pyplot as plt
from wordcloud import WordCloud
from collections import Counter

# 对中文字符串做分词处理
def tokenize(texts_list):
    words = []
    for line in texts_list:
        seg_result = list(jieba.cut(line))
        filtered_words = filter(lambda w: len(w)>1 and not w.isdigit(), seg_result)  # 过滤掉单个字母/数字
        words.extend(filtered_words)
    return words

# 绘制词云图像
def plot_word_cloud(word_freq_dist):
    wc = WordCloud(font_path='/path/to/simhei.ttf', background_color="white").generate_from_frequencies(dict(word_freq_dist.most_common()))
    plt.imshow(wc, interpolation='bilinear')
    plt.axis("off")
    plt.show()

if __name__ == '__main__':
    bv_num = input("请输入要查询的BV号:")
    basic_data = fetch_basic_info(bv_num)
    print(f'视频名称:{basic_data["标题"]}\n发布日期:{datetime.utcfromtimestamp(int(basic_data["发布时间"]))}')

    asyncio.run(download_danmaku(bv_num))

    parsed_comments = parse_danmaku('./danmakus.xml')

    all_texts = ''.join([item['content'] for item in parsed_comments])

    tokens = tokenize(all_texts.split())

    freq_distribution = Counter(tokens)

    top_keywords = dict(freq_distribution.most_common(50))  # 输出最常见的前五十个关键字及其出现次数

    plot_word_cloud(top_keywords)

这段脚本综合运用多种技术手段完成了对所关注对象全面而深入的理解——不仅限于表面层次的信息检索，更涉及到深层次的内容解读和模式识别层面的工作[^3]。

给我一段完整的python爬虫爬取CSDN网页数据可视化的代码

在Python中，我们可以使用一些库如BeautifulSoup、requests和matplotlib等来实现简单的网页数据抓取并可视化。下面是一个基本的例子，假设我们要抓取CSDN博客文章标题并统计词频：

import requests
from bs4 import BeautifulSoup
import matplotlib.pyplot as plt

# 爬取CSDN页面
url = 'https://blog.csdn.net/'
response = requests.get(url)
soup = BeautifulSoup(response.text, 'html.parser')

# 提取文章标题
titles = [title.text for title in soup.find_all('a', class_='title')]

# 清洗数据（例如去除HTML标签）
clean_titles = [' '.join(word for word in title.lower().split()) for title in titles]

# 使用正则表达式提取单词，并转换成列表
words = [word.strip() for title in clean_titles for word in re.findall(r'\b\w+\b', title)]

# 统计词频
word_freq = dict(zip(words, [0] * len(words)))
for word in words:
    word_freq[word] += 1

# 数据可视化
plt.figure(figsize=(10, 5))
word_counts = sorted(word_freq.items(), key=lambda x: x[1], reverse=True)
x轴, y轴 = zip(*word_counts)
plt.bar(x轴, y轴)
plt.xlabel('Words')
plt.ylabel('Frequency')
plt.title('Word Frequency of CSDN Blog Titles')
plt.show()