0
点赞
收藏
分享

微信扫一扫

Python爬虫——scrapy_工作原理

茗越 2023-08-16 阅读 13
  1. 引擎向spiders要url
  2. 引擎把将要爬取的url给调度器
  3. 调度器会将url生成的请求对象放入到指定的队列中
  4. 从队列中出队一个请求
  5. 引擎将请求交给下载器进行处理
  6. 下载器发送请求获取互联网数据
  7. 下载器将数据返回给引擎
  8. 引擎将数据再次给到spiders
  9. spiders通过xpath解析该数据,得到数据或者url
  10. spiders将数据或者url给到引擎
  11. 引擎判断改数据是url,还是数据,是数据的话就交给管道(itempipeline)处理,是url的话就交给调度器处理
    在这里插入图片描述
举报

相关推荐

0 条评论