Python 爬虫爬取酷我音乐-CFANZ编程社区

一、第三方库

requests >>> pip install requests

二、开发环境

版本： python 3.8

编辑器：pycharm 2021.2

三、模块安装问题

win + R 输入cmd 输入安装命令 pip install 模块名 (如果你觉得安装速度比较慢, 你可以切换国内镜像源)

模块安装问题:

- 如何安装python第三方模块:

1. win + R 输入 cmd 点击确定, 输入安装命令 pip install 模块名 (pip install requests) 回车

2. 在pycharm中点击Terminal(终端) 输入安装命令

- 安装失败原因:

- 失败一: pip 不是内部命令

解决方法: 设置环境变量

- 失败二: 出现大量报红 (read time out)

解决方法: 因为是网络链接超时, 需要切换镜像源

清华：https://pypi.tuna.tsinghua.edu.cn/simple

阿里云：https://mirrors.aliyun.com/pypi/simple/

中国科技大学 https://pypi.mirrors.ustc.edu.cn/simple/

华中理工大学：https://pypi.hustunique.com/

山东理工大学：https://pypi.sdutlinux.org/

豆瓣：https://pypi.douban.com/simple/

例如：pip3 install -i https://pypi.doubanio.com/simple/ 模块名

- 失败三: cmd里面显示已经安装过了, 或者安装成功了, 但是在pycharm里面还是无法导入

解决方法: 可能安装了多个python版本 (anaconda 或者 python 安装一个即可) 卸载一个就好

或者你pycharm里面python解释器没有设置好

四、配置pycharm里面的python解释器

1. 选择file(文件) >>> setting(设置) >>> Project(项目) >>> python interpreter(python解释器)

2. 点击齿轮, 选择add

3. 添加python安装路径

五、pycharm如何安装插件

1. 选择file(文件) >>> setting(设置) >>> Plugins(插件)

2. 点击 Marketplace 输入想要安装的插件名字比如:翻译插件输入 translation / 汉化插件输入 Chinese

3. 选择相应的插件点击 install(安装) 即可

4. 安装成功之后是会弹出重启pycharm的选项点击确定, 重启即可生效

六、爬虫基本思路

实现爬虫: 1. 分析数据来源 http://www.kuwo.cn/api/v1/www/music/playUrl?mid=227872325&type=music&httpsStatus=1&reqId=63b83851-0693-11ed-9c7e-5984ed5df402

实现代码:

发送请求 (访问网站)
获取数据
解析数据
保存数据

七、完整代码

import requests         # 发送请求

headers = {
    'Cookie': '_ga=GA1.2.1545626940.1657202295; uname3=%u3002; t3kwid=168444131; userid=168444131; websid=1306648885; pic3="http://q.qlogo.cn/qqapp/100243533/92BBD7D4B7F9106BA10CBE2CD0A7FA92/100"; t3=qq; _gid=GA1.2.1802350254.1658145192; Hm_lvt_cdb524f42f0ce19b169a8071123a4797=1657262849,1657263532,1657281650,1658145192; Hm_lpvt_cdb524f42f0ce19b169a8071123a4797=1658148882; kw_token=FCYM14UDCJ; _gat=1',
    'csrf': 'FCYM14UDCJ',
    'Host': 'www.kuwo.cn',
    'Referer': 'http://www.kuwo.cn/search/list?key=%E5%91%A8%E6%9D%B0%E4%BC%A6',
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/103.0.0.0 Safari/537.36',
}
key = input('请输入你要搜索的歌曲或者歌手名:')
url = f'http://www.kuwo.cn/api/www/search/searchMusicBykeyWord?key={key}&pn=1&rn=30&httpsStatus=1&reqId=27600630-069d-11ed-80a1-753c5e991919'
json_data = requests.get(url=url, headers=headers).json()
data_list = json_data['data']['list']
for data in data_list:
    artist = data['artist']
    name = data['name']
    rid = data['rid']
    print(rid, name, artist)
    # 批量爬取音乐
    # url 变量
    # x = 1 ,y = 2
    info_url = f'https://www.kuwo.cn/api/v1/www/music/playUrl?mid={rid}&type=convert_url3&br=320kmp3'
    # 1. 发送请求
    music_url = requests.get(url=info_url).json()['data']['url']
    # 4. 保存数据
    music_data = requests.get(url=music_url).content
    open(f'music/{name}-{artist}.mp3', mode='wb').write(music_data)