面向人类的智能代理池™

scylla的Python项目详细描述


一个用于人文学科的智能代理池,只支持Python3.6。主要功能:

  • 自动代理IP爬网和验证
  • 易于使用的json api
  • 简单但漂亮的基于网络的用户界面(如地理位置 代理的分布)
  • 只使用1命令开始最少
  • 简单的http转发代理服务器
  • Scrapyrequests集成,最少只有一行代码
  • 无头浏览器爬网

中新网

文档

请阅读Documentation

快速启动

安装

直接通过PIP安装

pip install scylla
scylla --help
scylla # Run the crawler and web server for JSON API

从源安装

git clone https://github.com/imWildCat/scylla.git
cd scylla

pip install -r requirements.txt

npm install # or yarn install
make assets-build

python -m scylla

对于由于uvloop does not support Windows at the moment

exportSANIC_NO_UVLOOP=trueexportSANIC_NO_UJSON=true
pip3 install sanic

如果这也失败了,yoi将需要从源代码手动安装sanic。

路线图

请看Projects

发展与贡献

git clone https://github.com/imWildCat/scylla.git
cd scylla

pip install -r requirements.txt

npm install # or `yarn install`
make assets-build

测试

如果要在本地运行测试,命令如下所示:

pip install -r tests/requirements-test.txt
pytest tests/

欢迎您向这个项目添加更多的测试用例,从而提高这个项目的健壮性。

本项目命名

Scylla是从美国电视剧Prison Break中的一组存储芯片的名称派生而来的。这个项目是以这部美国电视连续剧命名的,以表达对它的敬意。

捐赠

如果你觉得这个项目有用,你能捐点钱给它吗?

不管钱多少,你的捐赠都会激励作者不断发展新的特色!γ 谢谢您!

捐款方式如下:

贝宝

PayPal Donation Official

支付宝或微信支付

Alipay and WeChat Donation

许可证

apache许可证2.0。有关详细信息,请阅读 LICENSE文件。

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
spring JSTL:绝对uri:http://java.sun.com/jsp/jstl/core无法在两个站点中解析。xml或与此应用程序一起部署的jar文件   java在Junit测试中找不到失败的符号   java为什么在没有同步块的情况下调用wait()、notify()或notifyAll()不是编译器错误?   使用onDraw()绘制多个位图的java Android在曲面视图上放大缩小画布   在java中比较args值和字符串   java更改文件中的特定字节   java TransformerFactory破坏<html>标记中的<input>和<br>标记   azure appinsights java自定义指标不起作用   Java泛型在实现接口的类上指定上界,接口本身指定上界   java AS400 prog和动态类路径   java应用程序截图时收到空消息   java无法从片段中获取上下文   找不到java配置单元UDF类   linux是一个提供java的接口。lang.NoClassDefFoundError   java如何使用面向对象建模创建此数据库