品易云推流 关闭
文章详情页
文章 > 爬虫进阶 > python爬虫如何使用内置的scrapy内置下载文件?

python爬虫如何使用内置的scrapy内置下载文件?

头像

宋雪维

2021-04-27 10:15:581409浏览 · 0收藏 · 0评论

为了能使用python爬虫能够高效率的爬虫下载文件,我们可以使用内置的scrapy内置下载文件。内置的scrapy内置下载文件除了高效率外,可以方便的指定文件存储的路径,并且能够避免重新下载最近已经下载过的数据。本文介绍python爬虫使用内置的scrapy内置下载文件的优点、相关步骤和具体实例代码。

一、使用images pipeline下载文件步骤如下:

第一步,在items文件中定义两个属性,分别为image_urls以及images,这两个属性名字不能随意修改。

image_urls = scrapy.Field() # 图片的url
images = scrapy.Field() # 路径

第二步,编写爬虫程序,需要注意的是image_urls用来存储需要下载文件的url链接,需要给⼀个列表;

pic_url = pic.xpath('./a/img/@src').extract_first()
pic_url = response.urljoin(pic_url)
item['image_urls'] = [pic_url]

第三步,在settings中指定路径IMAGES_STORE = xxxxxxx,当图片下载完成后,scrapy会把图片下载的相关信息存储到item的images属性中,如下载路径、下载的url和图片校验码等;

import os
IMAGES_STORE = os.path.join(os.path.dirname(__file__), 'result_pic')

第四步,在settings中做配置,开启内置的图片管道,此时可以不用自带的管道。

'scrapy.pipelines.images.ImagesPipeline':1

二、具体代码

# 爬虫代码
import scrapy
from day21.vehicle_home.vehicle_home.items import VehicleHomeItem

class VehPicSpider(scrapy.Spider):
    name = 'veh_pic'
    allowed_domains = ['car.autohome.com.cn']
    base_url = 'https://car.autohome.com.cn/photolist/series/18/p{}/'
    start_urls = [base_url.format(1)]

    def parse(self, response):
        # 获取图片标签列表
        pic_lists = response.xpath('//ul[@id="imgList"]/li')
        for pic in pic_lists:
            pic_url = pic.xpath('./a/img/@src').extract_first()
            # 上述获取的url需要进一步补全
            pic_url = response.urljoin(pic_url)
            item = VehicleHomeItem()
            item['image_urls'] = [pic_url]  # 传递列表
            print(item)
            yield item

        # 翻页逻辑
        for page in range(2, 3):
            next_url = self.base_url.format(page)
            yield scrapy.Request(next_url)

# settings 代码,只给出关键部分
# 开启内置管道
ITEM_PIPELINES = {
   # 'vehicle_home.pipelines.VehicleHomePipeline': 300,
    'scrapy.pipelines.images.ImagesPipeline': 1,
}
# 指定图片存放路径
import os
IMAGES_STORE = os.path.join(os.path.dirname(__file__), 'result_pic')

# items 代码
import scrapy
class VehicleHomeItem(scrapy.Item):
    image_urls = scrapy.Field()  # 图片的url
    images = scrapy.Field()  # 图片路径

拓展知识:

为什么要选择scrapy内置的下载文件?

1、避免重新下载最近已经下载过的数据;

2、可以方便的指定文件存储的路径;

3、可以将下载的图片转换成通用的格式,如:png,jpg等;

4、可以方便地生成缩略图;

5、可以方便地检测图片的宽和⾼,确保它们满足最小限制;

6、异步下载,效率非常高。

以上就是python爬虫使用内置的scrapy内置下载文件的相关解释,大家直接套入代码使用即可。更多python爬虫进阶推荐:python爬虫进阶教程

(推荐操作系统:windows7系统、Python 3.9.1,DELL G3电脑。)

关注

关注公众号,随时随地在线学习

本教程部分素材来源于网络,版权问题联系站长!

底部广告图