离线下载
PDF版 ePub版

Summer · 更新于 2018-11-28 11:00:43

扩展(Extensions)

扩展框架提供一个机制,使得你能将自定义功能绑定到 Scrapy。

扩展只是正常的类,它们在 Scrapy 启动时被实例化、初始化。

扩展设置(Extension settings)

扩展使用 Scrapy settings 管理它们的设置,这跟其他 Scrapy 代码一样。

通常扩展需要给它们的设置加上前缀,以避免跟已有(或将来)的扩展冲突。 比如,一个扩展处理 Google Sitemaps,则可以使用类似 GOOGLESITEMAP_ENABLED、GOOGLESITEMAP_DEPTH 等设置。

加载和激活扩展

扩展在扩展类被实例化时加载和激活。 因此,所有扩展的实例化代码必须在类的构造函数(__init__)中执行。

要使得扩展可用,需要把它添加到 Scrapy 的 EXTENSIONS 配置中。在 EXTENSIONS 中,每个扩展都使用一个字符串表示,即扩展类的全 Python 路径。比如:

EXTENSIONS = {
    'scrapy.contrib.corestats.CoreStats': 500,
    'scrapy.telnet.TelnetConsole': 500,
}

如你所见,EXTENSIONS 配置是一个 dict,key 是扩展类的路径,value 是顺序,它定义扩展加载的顺序。扩展顺序不像中间件的顺序那么重要,而且扩展之间一般没有关联。扩展加载的顺序并不重要,因为它们并不相互依赖。

如果你需要添加扩展而且它依赖别的扩展,你就可以使用该特性了。

这也是为什么 Scrapy 的配置项 EXTENSIONS_BASE(它包括了所有内置且开启的扩展)定义所有扩展的顺序都相同(500)。

可用的(Available)、开启的(enabled)和禁用的(disabled)的扩展

并不是所有可用的扩展都会被开启。一些扩展经常依赖一些特别的配置。 比如,HTTP Cache 扩展是可用的但默认是禁用的,除非 HTTPCACHE_ENABLED 配置项设置了。

禁用扩展(Disabling an extension)

为了禁用一个默认开启的扩展(比如,包含在 EXTENSIONS_BASE 中的扩展),需要将其顺序(order)设置为 None。比如:

EXTENSIONS = {
    'scrapy.contrib.corestats.CoreStats': None,
}

实现你的扩展

实现你的扩展很简单。每个扩展是一个单一的 Python class,它不需要实现任何特殊的方法。

Scrapy 扩展(包括 middlewares 和 pipelines)的主要入口是 from_crawler 类方法,它接收一个 Crawler 类的实例,该实例是控制 Scrapy crawler 的主要对象。如果扩展需要,你可以通过这个对象访问 settings,signals,stats,控制爬虫的行为。

通常来说,扩展关联到 signals 并执行它们触发的任务。

最后,如果 from_crawler 方法抛出 NotConfigured 异常,扩展会被禁用。否则,扩展会被开启。

扩展例子(Sample extension)

这里我们将实现一个简单的扩展来演示上面描述到的概念。 该扩展会在以下事件时记录一条日志:

  • spider 被打开
  • spider 被关闭
  • 爬取了特定数量的条目(items)

该扩展通过 MYEXT_ENABLED 配置项开启,items 的数量通过 MYEXT_ITEMCOUNT 配置项设置。

以下是扩展的代码:

from scrapy import signals
from scrapy.exceptions import NotConfigured

class SpiderOpenCloseLogging(object):

    def __init__(self, item_count):
        self.item_count = item_count

        self.items_scraped = 0

    @classmethod
    def from_crawler(cls, crawler):
        # first check if the extension should be enabled and raise

        # NotConfigured otherwise

        if not crawler.settings.getbool('MYEXT_ENABLED'):

            raise NotConfigured

        # get the number of items from settings

        item_count = crawler.settings.getint('MYEXT_ITEMCOUNT', 1000)

        # instantiate the extension object

        ext = cls(item_count)

        # connect the extension object to signals

        crawler.signals.connect(ext.spider_opened, signal=signals.spider_opened)

        crawler.signals.connect(ext.spider_closed, signal=signals.spider_closed)

        crawler.signals.connect(ext.item_scraped, signal=signals.item_scraped)

        # return the extension object

        return ext

    def spider_opened(self, spider):
        spider.log("opened spider %s" % spider.name)

    def spider_closed(self, spider):
        spider.log("closed spider %s" % spider.name)

    def item_scraped(self, item, spider):
        self.items_scraped += 1

        if self.items_scraped % self.item_count == 0:
            spider.log("scraped %d items" % self.items_scraped)

内置扩展介绍

通用扩展

记录统计扩展(Log Stats extension)

class scrapy.contrib.logstats.LogStats

记录基本的统计信息,比如爬取的页面和条目(items)。

核心统计扩展(Core Stats extension)

class scrapy.contrib.corestats.CoreStats

如果统计收集器(stats collection)启用了,该扩展开启核心统计收集(参考数据收集(Stats Collection))。

Telnet console 扩展

class scrapy.telnet.TelnetConsole

提供一个 telnet 控制台,用于进入当前执行的 Scrapy 进程的 Python 解析器,这对代码调试非常有帮助。

telnet 控制台通过 TELNETCONSOLE_ENABLED 配置项开启,服务器会监听 TELNETCONSOLE_PORT 指定的端口。

内存使用扩展(Memory usage extension)

class scrapy.contrib.memusage.MemoryUsage

注解

This extension does not work in Windows.

监控 Scrapy 进程内存使用量,并且:

  1. 如果使用内存量超过某个指定值,发送提醒邮件
  2. 如果超过某个指定值,关闭 spider

当内存用量达到 MEMUSAGE_WARNING_MB 指定的值,发送提醒邮件。当内存用量达到 MEMUSAGE_LIMIT_MB 指定的值,发送提醒邮件,同时关闭 spider,Scrapy 进程退出。

该扩展通过 MEMUSAGE_ENABLED 配置项开启,可以使用以下选项:

  • MEMUSAGE_LIMIT_MB
  • MEMUSAGE_WARNING_MB
  • MEMUSAGE_NOTIFY_MAIL
  • MEMUSAGE_REPORT

内存调试扩展(Memory debugger extension)

class scrapy.contrib.memdebug.MemoryDebugger

该扩展用于调试内存使用量,它收集以下信息:

开启该扩展,需打开 MEMDEBUG_ENABLED 配置项。 信息将会存储在统计信息(stats)中。

关闭 spider 扩展

class scrapy.contrib.closespider.CloseSpider

当某些状况发生,spider 会自动关闭。每种情况使用指定的关闭原因。

关闭 spider 的情况可以通过下面的设置项配置:

  • CLOSESPIDER_TIMEOUT
  • CLOSESPIDER_ITEMCOUNT
  • CLOSESPIDER_PAGECOUNT
  • CLOSESPIDER_ERRORCOUNT

CLOSESPIDER_TIMEOUT

默认值: 0

一个整数值,单位为秒。如果一个 spider 在指定的秒数后仍在运行, 它将以 closespider_timeout 的原因被自动关闭。如果值设置为 0(或者没有设置),spiders 不会因为超时而关闭。

CLOSESPIDER_ITEMCOUNT

缺省值: 0

一个整数值,指定条目的个数。如果 spider 爬取条目数超过了指定的数,并且这些条目通过 item pipeline 传递,spider 将会以 closespider_itemcount 的原因被自动关闭。

CLOSESPIDER_PAGECOUNT

新版功能。

缺省值: 0

一个整数值,指定最大的抓取响应(reponses)数。 如果 spider 抓取数超过指定的值,则会以 closespider_pagecount 的原因自动关闭。 如果设置为 0(或者未设置),spiders 不会因为抓取的响应数而关闭。

CLOSESPIDER_ERRORCOUNT

新版功能。

缺省值: 0

一个整数值,指定 spider 可以接受的最大错误数。 如果 spider 生成多于该数目的错误,它将以 closespider_errorcount 的原因关闭。 如果设置为 0(或者未设置),spiders 不会因为发生错误过多而关闭。

StatsMailer extension

class scrapy.contrib.statsmailer.StatsMailer

这个简单的扩展可用来在一个域名爬取完毕时发送提醒邮件, 包含 Scrapy 收集的统计信息。 邮件会发送个通过 STATSMAILER_RCPTS 指定的所有接收人。

Debugging extensions

Stack trace dump extension

class scrapy.contrib.debug.StackTraceDump

当收到 SIGQUITSIGUSR2 信号,spider 进程的信息将会被存储下来。存储的信息包括:

  1. engine 状态(使用 scrapy.utils.engin.get_engine_status())
  2. 所有存活的引用(live references)(参考使用 trackref 调试内存泄露)
  3. 所有线程的堆栈信息

当堆栈信息和 engine 状态存储后,Scrapy 进程继续正常运行。

该扩展只在 POSIX 兼容的平台上可运行(比如不能在 Windows 运行), 因为 SIGQUIT 和 SIGUSR2 信号在 Windows 上不可用。

至少有两种方式可以向 Scrapy 发送 SIGQUIT 信号:

在 Scrapy 进程运行时通过按 Ctrl-(仅 Linux 可行?) 运行该命令(<pid>是 Scrapy 运行的进程):

kill -QUIT <pid>

调试扩展(Debugger extension)

class scrapy.contrib.debug.Debugger

当收到 SIGUSR2 信号,将会在 Scrapy 进程中调用 Python debugger。debugger 退出后,Scrapy 进程继续正常运行。

更多信息参考 Debugging in Python

该扩展只在 POSIX 兼容平台上工作(比如不能再 Windows 上运行)。

上一篇: Spider 中间件(Mi... 下一篇: 核心 API