0
点赞
收藏
分享

微信扫一扫

Python爬虫新手入门教学(十四):爬取有声小说网站数据Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取


前言


Python爬虫、数据分析、网站开发等案例教程视频免费在线观看

https://space.bilibili.com/523606542


前文内容


​​Python爬虫新手入门教学(一):爬取豆瓣电影排行信息​​

​​Python爬虫新手入门教学(二):爬取小说​​

​​Python爬虫新手入门教学(三):爬取链家二手房数据​​

​​Python爬虫新手入门教学(四):爬取前程无忧招聘信息​​

​​Python爬虫新手入门教学(五):爬取B站视频弹幕​​

​​Python爬虫新手入门教学(六):制作词云图​​

​​Python爬虫新手入门教学(七):爬取腾讯视频弹幕​​

​​Python爬虫新手入门教学(八):爬取论坛文章保存成PDF​​

​​Python爬虫新手入门教学(九):多线程爬虫案例讲解​​

​​Python爬虫新手入门教学(十):爬取彼岸4K超清壁纸​​

​​Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取​​

​​Python爬虫新手入门教学(十二):英雄联盟最新皮肤爬取​​

​​Python爬虫新手入门教学(十三):爬取高质量超清壁纸​​

基本开发环境

  • Python 3.6
  • Pycharm

相关模块的使用

import requests
import os

安装Python并添加到环境变量,pip安装需要的相关模块即可。

一、明确目标

爬取免费的播放量最多的有声书,如果你想要爬取付费的也是可以,那你得先开一个会员,

爬虫是看得到才能爬。

Python爬虫新手入门教学(十四):爬取有声小说网站数据Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_html


二、网页数据分析

点击任意一个音频章节点击播放。在开发者工具中选择 Media 会加载出一个数据

Python爬虫新手入门教学(十四):爬取有声小说网站数据Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_python爬虫_02


复制这个链接会自动下载一个可播放的音频文件。

Python爬虫新手入门教学(十四):爬取有声小说网站数据Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_json_03


Python爬虫新手入门教学(十四):爬取有声小说网站数据Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_爬虫_04


听内容是和网站上面的有声小说是一样的。所以这个就是音频数据的真实url地址。

接下来就要分析找到这个数据来源。

Python爬虫新手入门教学(十四):爬取有声小说网站数据Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_python爬虫_05


在开发者工具中搜索 wKgJJ1eKo-3xGS0KAFIc8J_87NE024 框选的内容就是音频本身,所有查看第一个地址。

Python爬虫新手入门教学(十四):爬取有声小说网站数据Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_python爬虫_06


https://www.ximalaya.com/revision/play/v1/audio?id=18556416&ptype=1

这个数据里面包含了音频地址。

其实这个 id=18556416 就是每个音频的ID值了。同样的在开发者工具中进行搜索。

Python爬虫新手入门教学(十四):爬取有声小说网站数据Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_json_07


有声书名字,音频ID,章节名字都有了。但是当我查看第二页数据的时候发现,并不是这个链接,而是另外一个链接。

https://www.ximalaya.com/revision/album/v1/getTracksList?albumId=4756811&pageNum=2

Python爬虫新手入门教学(十四):爬取有声小说网站数据Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_python_08


还是有一些区别的,所以我们应该请求的是第二个链接

整体思路分析

1、通过 'https://www.ximalaya.com/revision/album/v1/getTracksList?albumId=4756811&pageNum=2'
url地址获取每章音频的ID以及章节名字
2、通过 'https://www.ximalaya.com/revision/play/v1/audio?id=18556416&ptype=1' url地址获取
每章音频的下载地址
3、请求音频地址,进行本地保存

三、代码实现

1、获取获取每章音频的ID以及章节名字

def get_audio_info(html_url):
json_data = get_response(html_url).json()
audio_info = json_data['data']['tracks']
for index in audio_info:
# 音频ID
audio_id = index['trackId']
# 章节名字
audio_title = index['title']
# 有声书小说名字 《摸金天师》第001章 百辟刀
audio_name = audio_title.split('第')[0]

2、获取音频url

def get_audio_url(audio_id):
page_url = f'https://www.ximalaya.com/revision/play/v1/audio?id={audio_id}&ptype=1'
json_data = get_response(page_url).json()
audio_url = json_data['data']['src']
return audio_url

3、保存音频

def save(name, title, audio_url):
path = f'{name}\\'
if not os.path.exists(path):
os.makedirs(path)
audio_content = get_response(audio_url).content
with open(path + title + '.m4a', mode='wb') as f:
f.write(audio_content)
print('正在保存:', title)

完整实现代码

import requests
import os


def get_response(html_url):
header = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
}
response = requests.get(url=html_url, headers=header)
return response


def save(name, title, audio_url):
path = f'{name}\\'
if not os.path.exists(path):
os.makedirs(path)
audio_content = get_response(audio_url).content
with open(path + title + '.m4a', mode='wb') as f:
f.write(audio_content)
print('正在保存:', title)


def get_audio_url(audio_id):
page_url = f'https://www.ximalaya.com/revision/play/v1/audio?id={audio_id}&ptype=1'
json_data = get_response(page_url).json()
audio_url = json_data['data']['src']
return audio_url


def get_audio_info(html_url):
json_data = get_response(html_url).json()
audio_info = json_data['data']['tracks']
for index in audio_info:
# 音频ID
audio_id = index['trackId']
# 章节名字
audio_title = index['title']
# 有声书小说名字 《摸金天师》第001章 百辟刀
audio_name = audio_title.split('第')[0]
audio_url = get_audio_url(audio_id)
save(audio_name, audio_title, audio_url)


if __name__ == '__main__':
for page in range(1, 39):
url = f'https://www.ximalaya.com/revision/album/v1/getTracksList?albumId=4756811&pageNum={page}'
get_audio_info(url)

Python爬虫新手入门教学(十四):爬取有声小说网站数据Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_python_09


Python爬虫新手入门教学(十四):爬取有声小说网站数据Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_json_10


Python爬虫新手入门教学(十四):爬取有声小说网站数据Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_html_11


举报

相关推荐

0 条评论