用Python爬虫爬取B站视频
时间: 2024-04-24 18:14:53 浏览: 152
可以使用 Python 的 requests 和 BeautifulSoup 库来爬取 B 站的视频。以下是一个简单的示例:
```python
import requests
from bs4 import BeautifulSoup
url = "https://www.bilibili.com/video/BV1EJ411c7zA"
response = requests.get(url)
soup = BeautifulSoup(response.content, 'html.parser')
title = soup.find('h1', class_='video-title').text.strip() # 视频标题
video_url = soup.find('video').find('source')['src'] # 视频地址
# 下载视频
response = requests.get(video_url, stream=True)
with open(f"{title}.mp4", "wb") as f:
for chunk in response.iter_content(chunk_size=1024):
if chunk:
f.write(chunk)
```
该示例会爬取 B 站指定视频的标题和视频地址,并将视频保存到本地。请注意,B 站有反爬虫机制,如果过于频繁地进行爬取可能会被封 IP。
相关问题
python爬虫爬取b站视频
Python爬虫可以用来爬取B站视频,以下是一个简单的示例代码:
```python
import requests
# 视频链接
url = "https://www.bilibili.com/video/BV1r4411t7Ua"
# 发送请求
response = requests.get(url)
# 获取视频页面的HTML内容
html_content = response.text
# 解析HTML内容,提取视频链接
start = html_content.find('"video":') + len('"video":')
end = html_content.find(',"pic"')
video_url = html_content[start:end]
# 下载视频
video_response = requests.get(video_url)
with open("video.mp4", "wb") as f:
f.write(video_response.content)
```
这段代码使用了`requests`库发送HTTP请求,获取B站视频页面的HTML内容,并从中提取出视频链接。然后使用`requests`库再次发送请求,下载视频到本地。
需要注意的是,爬取B站视频涉及到版权问题,请确保你有合法的使用权限。
python爬虫爬取b站视频数据
### 如何使用 Python 编写爬虫抓取 B 站视频数据
#### 准备工作
为了实现这一目标,需要安装一些必要的库。这些库可以帮助处理 HTTP 请求、解析 JSON 数据以及管理异步操作。
```bash
pip install requests aiohttp bilibili-api-python
```
#### 抓取视频基本信息
通过调用 `bilibili-api` 库中的接口方法可以直接获取到指定 AV/BV 号的视频详情:
```python
from bilibili_api import video as bvid_video, sync
def fetch_basic_info(bv_id):
v = bvid_video.Video(bvid=bv_id)
info_dict = sync(v.get_info())
title = info_dict['title']
pub_date = info_dict['pubdate'] # 时间戳形式返回发布时间
return {
"标题": title,
"发布时间": pub_date
}
```
此部分代码利用了第三方封装好的 API 接口来简化请求过程[^1]。
#### 获取弹幕列表
针对每一条视频记录其对应的 XML 格式的弹幕文件链接,并下载保存至本地;接着读取该文件提取其中的有效字段完成进一步的数据挖掘任务。
```python
import xml.etree.ElementTree as ET
from datetime import datetime
async def download_danmaku(video_bvid, output_file='danmakus.xml'):
vid = bvid_video.Video(bvid=video_bvid)
danmu_url = await vid.get_dm_xml()
async with aiohttp.ClientSession() as session:
resp = await session.get(danmu_url[0])
content = await resp.text()
with open(output_file, 'w', encoding='utf8') as f:
f.write(content)
# 解析XML格式的弹幕文档
def parse_danmaku(file_path):
tree = ET.parse(file_path)
root = tree.getroot()
items = []
for item in root.findall('d'):
text = item.text.strip()
timestamp_str = float(item.attrib['p'].split(',')[0]) # 提取消息显示的时间轴位置
formatted_time = str(datetime.fromtimestamp(timestamp_str))
items.append({
"content": text,
"time": formatted_time
})
return items
```
上述函数实现了从远程服务器拉取特定编号影片关联的所有即时聊天消息并将其转换成易于理解的形式存储下来供后续分析使用[^2]。
#### 清洗与统计分析
对于收集来的原始弹幕资料而言,在正式投入应用之前往往还需要经历一系列预处理环节,比如去除无关字符、过滤敏感词汇等。之后再基于清理后的高质量语料开展诸如词频计算之类的量化研究活动。
```python
import jieba.analyse
import matplotlib.pyplot as plt
from wordcloud import WordCloud
from collections import Counter
# 对中文字符串做分词处理
def tokenize(texts_list):
words = []
for line in texts_list:
seg_result = list(jieba.cut(line))
filtered_words = filter(lambda w: len(w)>1 and not w.isdigit(), seg_result) # 过滤掉单个字母/数字
words.extend(filtered_words)
return words
# 绘制词云图像
def plot_word_cloud(word_freq_dist):
wc = WordCloud(font_path='/path/to/simhei.ttf', background_color="white").generate_from_frequencies(dict(word_freq_dist.most_common()))
plt.imshow(wc, interpolation='bilinear')
plt.axis("off")
plt.show()
if __name__ == '__main__':
bv_num = input("请输入要查询的BV号:")
basic_data = fetch_basic_info(bv_num)
print(f'视频名称:{basic_data["标题"]}\n发布日期:{datetime.utcfromtimestamp(int(basic_data["发布时间"]))}')
asyncio.run(download_danmaku(bv_num))
parsed_comments = parse_danmaku('./danmakus.xml')
all_texts = ''.join([item['content'] for item in parsed_comments])
tokens = tokenize(all_texts.split())
freq_distribution = Counter(tokens)
top_keywords = dict(freq_distribution.most_common(50)) # 输出最常见的前五十个关键字及其出现次数
plot_word_cloud(top_keywords)
```
这段脚本综合运用多种技术手段完成了对所关注对象全面而深入的理解——不仅限于表面层次的信息检索,更涉及到深层次的内容解读和模式识别层面的工作[^3]。
阅读全文