Scrapy是一个为了爬取网站数据，提取结构性数据而编写的应用框架。 可以应用在包括数据挖
掘，信息处理或存储历史数据等一系列的程序中。
1. 安装scrapy：
注意：需要安装在python解释器相同的位置,例如：D:\Program Files\Python3.11.4\Scripts
若安装时报错缺少twisted，解决方法：安装twisted合适的版本 twisted下载路径
下载 twisted后，安装twisted：pip install twisted路径
查看python版本：终端输入python
若报错win32错误，解决方法：pip install pypiwin32
若是仍然报错，可安装anaconda，若使用anaconda，pycharm里的解释器也需要换成anaconda的的路径 Anaconda 安装
（注意：安装anaconda时，安装路径下不能有任何文件，否则可能会导致不能用 ）
2. 使用scrapy创建项目：
3. 创建爬虫文件
在spiders下创建，进入spiders目录： cd .\项目名字\项目名字\spiders
4. 运行爬虫程序
例子：
# spider下的爬虫文件
import scrapy
class TongchengSpider(scrapy.Spider):
name = "tongcheng"
allowed_domains = ["https://sz.58.com/sou/?key=%E5%89%8D%E7%AB%AF%E5%BC%80%E5%8F%91&classpolicy=classify_E%2Cuuid_YZWJGz6dw5SYe54A6jYeyfiY5J4TPdc8&search_uuid=YZWJGz6dw5SYe54A6jYeyfiY5J4TPdc8&search_type=input"]
start_urls = ["https://sz.58.com/sou/?key=%E5%89%8D%E7%AB%AF%E5%BC%80%E5%8F%91&classpolicy=classify_E%2Cuuid_YZWJGz6dw5SYe54A6jYeyfiY5J4TPdc8&search_uuid=YZWJGz6dw5SYe54A6jYeyfiY5J4TPdc8&search_type=input"]
def parse(self, response):
print("学习scrapy")
content = response.text # 获取的是响应的字符串
content1 = response.body # 获取的是二进制数据
# span = response.xpath("xpath语法") # 可以直接是xpath方法来解析response中的内容
span = response.xpath('//div[@id="filter"]/div[@class="tabs"]/a/span')[0] # xpath
print("=================================================================")
print(span.extract()) # 提取seletor对象的data的属性值
print(span.extract_first()) # 提取的seletor列表的第一个数据
