一.settings文件配置

ITEM_PIPELINES = {    'scrapy_redis.pipelines.RedisPipeline': 400} # 增加了一个去重容器类的配置, 作用使用Redis的set集合来存储请求的指纹数据, 从而实现请求去重的持久化DUPEFILTER_CLASS = "scrapy_redis.dupefilter.RFPDupeFilter" # 使用scrapy-redis组件自己的调度器SCHEDULER = "scrapy_redis.scheduler.Scheduler" # 配置调度器是否要持久化, 也就是当爬虫结束了, 要不要清空Redis中请求队列和去重指纹的set。如果是True, 就表示要持久化存储, 就不清空数据, 否则清空数据SCHEDULER_PERSIST = TrueREDIS_HOST = '192.168.xxx.xxx'REDIS_PORT = 6379REDIS_ENCODING = 'utf-8'

二.对redis进行配置

- #bind 127.0.0.1 - protected-mode no