请写一段爬取b站视频弹幕的python爬虫代码
时间: 2023-03-12 09:00:03 浏览: 274
爬取b站视频弹幕的python爬虫代码:import requestsurl='https://api.bilibili.com/x/v1/dm/list.so?oid=视频id'headers={
'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.122 Safari/537.36'
}res=requests.get(url,headers=headers)danmu=res.json()['dms']for item in danmu:
print(item['p'][2],item['c'])
相关问题
python爬虫爬取b站视频数据
### 如何使用 Python 编写爬虫抓取 B 站视频数据
#### 准备工作
为了实现这一目标,需要安装一些必要的库。这些库可以帮助处理 HTTP 请求、解析 JSON 数据以及管理异步操作。
```bash
pip install requests aiohttp bilibili-api-python
```
#### 抓取视频基本信息
通过调用 `bilibili-api` 库中的接口方法可以直接获取到指定 AV/BV 号的视频详情:
```python
from bilibili_api import video as bvid_video, sync
def fetch_basic_info(bv_id):
v = bvid_video.Video(bvid=bv_id)
info_dict = sync(v.get_info())
title = info_dict['title']
pub_date = info_dict['pubdate'] # 时间戳形式返回发布时间
return {
"标题": title,
"发布时间": pub_date
}
```
此部分代码利用了第三方封装好的 API 接口来简化请求过程[^1]。
#### 获取弹幕列表
针对每一条视频记录其对应的 XML 格式的弹幕文件链接,并下载保存至本地;接着读取该文件提取其中的有效字段完成进一步的数据挖掘任务。
```python
import xml.etree.ElementTree as ET
from datetime import datetime
async def download_danmaku(video_bvid, output_file='danmakus.xml'):
vid = bvid_video.Video(bvid=video_bvid)
danmu_url = await vid.get_dm_xml()
async with aiohttp.ClientSession() as session:
resp = await session.get(danmu_url[0])
content = await resp.text()
with open(output_file, 'w', encoding='utf8') as f:
f.write(content)
# 解析XML格式的弹幕文档
def parse_danmaku(file_path):
tree = ET.parse(file_path)
root = tree.getroot()
items = []
for item in root.findall('d'):
text = item.text.strip()
timestamp_str = float(item.attrib['p'].split(',')[0]) # 提取消息显示的时间轴位置
formatted_time = str(datetime.fromtimestamp(timestamp_str))
items.append({
"content": text,
"time": formatted_time
})
return items
```
上述函数实现了从远程服务器拉取特定编号影片关联的所有即时聊天消息并将其转换成易于理解的形式存储下来供后续分析使用[^2]。
#### 清洗与统计分析
对于收集来的原始弹幕资料而言,在正式投入应用之前往往还需要经历一系列预处理环节,比如去除无关字符、过滤敏感词汇等。之后再基于清理后的高质量语料开展诸如词频计算之类的量化研究活动。
```python
import jieba.analyse
import matplotlib.pyplot as plt
from wordcloud import WordCloud
from collections import Counter
# 对中文字符串做分词处理
def tokenize(texts_list):
words = []
for line in texts_list:
seg_result = list(jieba.cut(line))
filtered_words = filter(lambda w: len(w)>1 and not w.isdigit(), seg_result) # 过滤掉单个字母/数字
words.extend(filtered_words)
return words
# 绘制词云图像
def plot_word_cloud(word_freq_dist):
wc = WordCloud(font_path='/path/to/simhei.ttf', background_color="white").generate_from_frequencies(dict(word_freq_dist.most_common()))
plt.imshow(wc, interpolation='bilinear')
plt.axis("off")
plt.show()
if __name__ == '__main__':
bv_num = input("请输入要查询的BV号:")
basic_data = fetch_basic_info(bv_num)
print(f'视频名称:{basic_data["标题"]}\n发布日期:{datetime.utcfromtimestamp(int(basic_data["发布时间"]))}')
asyncio.run(download_danmaku(bv_num))
parsed_comments = parse_danmaku('./danmakus.xml')
all_texts = ''.join([item['content'] for item in parsed_comments])
tokens = tokenize(all_texts.split())
freq_distribution = Counter(tokens)
top_keywords = dict(freq_distribution.most_common(50)) # 输出最常见的前五十个关键字及其出现次数
plot_word_cloud(top_keywords)
```
这段脚本综合运用多种技术手段完成了对所关注对象全面而深入的理解——不仅限于表面层次的信息检索,更涉及到深层次的内容解读和模式识别层面的工作[^3]。
爬虫爬取b站弹幕时间
要爬取B站弹幕的时间,你可以使用爬虫技术来获取。下面是一种可能的实现方式:
1. 首先,你需要安装Python,并安装相关的库,如requests、BeautifulSoup等。
2. 使用requests库发送HTTP请求,获取B站视频页面的HTML源代码。
3. 使用BeautifulSoup库解析HTML源代码,提取出弹幕的相关信息。
4. 在HTML源代码中,弹幕通常以JSON格式存储在一个<script>标签中。你可以使用正则表达式或其他方法提取出这段JSON数据。
5. 解析JSON数据,获取弹幕的时间信息。
6. 对于B站的弹幕,时间通常以秒为单位进行存储。你可以将这些时间转换为你需要的格式,如日期时间格式。
请注意,爬取网站数据时需要遵守相关的法律法规和网站的使用规定。在进行任何爬取操作之前,请确保你已经获得了合法的许可或已经阅读并理解了相关网站的使用条款。
阅读全文