请求使用高可用性洋葱路由器。最肮脏的网络爬虫没有时间限制。

requests-whaor的Python项目详细描述


请求什么[ri-kwestshawr]

Requests+Docker+HAproxy+Tor

请求WithHighA可用性OnionR外部。对于那些没有时间限制速度的最肮脏的网络爬虫。在

BlackGitHub

概述

requests通过Docker本地TOR电路网络获得请求。它负责启动和停止位于HAproxy负载平衡器后面的TOR代理池,该代理充当循环反向代理网络。这将给每个请求一个新的IP地址。如果初始IP池出现问题,requests whor可以通过重新启动所有TOR来收集新的IP地址池。在

用pip安装

pip install requests-whaor

使用Poetry安装

^{pr2}$

>> Quickstart / Docs <<

突出显示的项目

有用的Docker命令

如果事情失控,您可能需要这些命令来调试或终止容器。

docker ps -q --filter ancestor=osminogin/tor-simple | xargs -L 1 docker logs --follow

docker ps -q --filter ancestor=osminogin/haproxy | xargs -L 1 docker logs --follow

docker stop $(docker ps -q --filter ancestor=osminogin/tor-simple)

docker stop $(docker ps -q --filter ancestor=haproxy)

docker network rm $(docker network ls -q -f name=whaornet)

托多

  • []测试。在
  • []如有要求,可提供更多的请求方法。在
  • []使用不同Tor容器的选项。在
  • []不同负载平衡器容器的选项。在

联系方式

电报=Twitter=Tradingview=不和谐=@dgnsrekt

电子邮件=dgnsrekt@pm.me

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
java XStream自定义转换器,可从列表生成平面XML结构?   java GridView项目文本不改变颜色   java您必须在主类中扩展JApplet吗?   如何使用java编写基于Excel的csv文件?   java如何从这段代码中得到整个多边形的颜色?   具有多个表连接和sum()的java HQL,first()   java如何使用一种方法将两个数组添加到一起   带鼠标+键盘的VBO Java LWJGL   java如何在XDB中创建小数点为2的浮点字段   java如何从XAuthToken获得身份验证?   内存管理如何正确使用java。终结者先生?   音频如何在Java中使用PortAudio(带处理的jpab)绘制波形?   java是Youtube上的视频列表,包含400个错误代码   爪哇我的巴恩斯利蕨太瘦了   java为什么Android会忽略READ_SMS权限?   jpeg问题从JAVA启动MATLAB代码   java如何判断当前bash脚本是否从调用脚本调用   方法重写中的Java静态变量   java如何在peerpeer Ad hoc网络中的两个具有两跳距离的对等方之间中继RTP(实时传输协议)流   java Android:以编程方式检索资源字符串