技术文章 > Python技术 > Python基础 > 正文

python的爬虫框架scrapy原理是什么?

日前,小编受大多小伙伴要求,给大家讲述了关于爬虫里最常见模块的使用,小伙伴们反映在实际操作上非常好用,但是只是生搬硬套,因为没有对这个架框本身进行详细的了解,小编想了下,如果对于架框本身了解清晰透彻,那么对之后的架框使用也肯定是活灵活现,因此,再给大家整理篇,希望对大家受用。

1、Scrapy爬虫框架

Scrapy是一个使用Python编程语言编写的爬虫框架,任何人都可以根据自己的需求进行修改,并且使用起来非常的方便。它可以应用在数据采集、数据挖掘、网络异常用户检测、存储数据等方面。

Scrapy使用了Twisted异步网络库来处理网络通讯。整体架构大致如下图所示。

2、由上图可知Scrapy爬虫框架主要由5个部分组成。

Scrapy Engine(Scrapy引擎),Scheduler(调度器),Downloader(下载器),Spiders(蜘蛛),Item Pipeline(项目管道)。

3、这五大组件及其中间件的功能如下:

1) Scrapy引擎

2) Scheduler(调度器)

3) Downloader(下载器)

4) Spiders(蜘蛛)

5) Item Pipeline(项目管道)

6) 中间件(Middlewares)

好啦,以上就是基础的架框内容,大家一定要仔细了解好这个流程原理,这样我们才可以更好的学习使用这个架框,灵活的实现应用哦~

免费视频教程
本文原创发布python学习网,转载请注明出处,感谢您的尊重!
相关文章
 如何使用python网络爬虫抓取视频?
 python数据爬虫是什么?怎么用?
 python的爬虫框架包括哪些模块?
相关视频章节
 网络爬虫
 云端部署Web应用程序视频
 Web应用框架Flask和文件模板
 Web应用程序开发概述
 继承和多态
视频教程分类