IP筛选DNS解析程序
os-scrapy-ipfilter-resolver的Python项目详细描述
OScrapy ipfilter解析程序
此项目提供一个DNS解析程序,用于ip黑名单/白名单和配置DNS过期时间。在
安装
pip install os-scrapy-ipfilter-resolver
您可以直接在项目根路径中运行示例spider。在
^{pr2}$使用
设置
- 在
在项目中启用DNS解析程序设置.py文件:
在DNS_RESOLVER = "os_scrapy_ipfilter_resolver.Resolver"
- 在
配置IP黑名单,当请求IP在黑名单中时会引发
IPFilteredException
在IP_DISALLOWED = ["192.168.0.0/16", "10.143.0.1"]
- 在
配置IP白名单,优先级大于黑名单
在IP_ALLOWED = ["192.168.0.1"]
- 在
配置DNS缓存大小和过期时间(秒)
在DNSCACHE_ENABLED = True DNSCACHE_SIZE = 10000 DNSCACHE_EXPIRE = 24 * 60 * 60
- 在
配置DNS查找超时(秒)
在DNS_TIMEOUT = 60
单元测试
tox
许可证
麻省理工学院授权。在
- 项目
标签: