请求使用高可用性洋葱路由器。最肮脏的网络爬虫没有时间限制。

requests-whaor的Python项目详细描述


请求什么[ri-kwestshawr]

Requests+Docker+HAproxy+Tor

请求WithHighA可用性OnionR外部。对于那些没有时间限制速度的最肮脏的网络爬虫。在

BlackGitHub

概述

requests通过Docker本地TOR电路网络获得请求。它负责启动和停止位于HAproxy负载平衡器后面的TOR代理池,该代理充当循环反向代理网络。这将给每个请求一个新的IP地址。如果初始IP池出现问题,requests whor可以通过重新启动所有TOR来收集新的IP地址池。在

用pip安装

pip install requests-whaor

使用Poetry安装

^{pr2}$

>> Quickstart / Docs <<

突出显示的项目

有用的Docker命令

如果事情失控,您可能需要这些命令来调试或终止容器。

docker ps -q --filter ancestor=osminogin/tor-simple | xargs -L 1 docker logs --follow

docker ps -q --filter ancestor=osminogin/haproxy | xargs -L 1 docker logs --follow

docker stop $(docker ps -q --filter ancestor=osminogin/tor-simple)

docker stop $(docker ps -q --filter ancestor=haproxy)

docker network rm $(docker network ls -q -f name=whaornet)

托多

  • []测试。在
  • []如有要求,可提供更多的请求方法。在
  • []使用不同Tor容器的选项。在
  • []不同负载平衡器容器的选项。在

联系方式

电报=Twitter=Tradingview=不和谐=@dgnsrekt

电子邮件=dgnsrekt@pm.me

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
在Android应用程序中处理新活动时出现java NullPointerException   从PSV文件读取Java   在JavaSwing中将方法从一个类传递到另一个类   带有MongoDB错误的java Vertx ClassNotFoundException:com。mongodb。联系溪流工厂   在java中替换2D数组中的数字?   java Avro方案空布尔和双整数布尔的写并集   java导入组织。neo4j无法解决?   从另一个获取变量。使用反射的java文件   Java:以格式化字符串的形式返回具有非常不同的条目长度的2D数组   java客户端应用程序正在从IBMMQ接收不同格式的消息体   java在我的主循环中的步骤有问题   java如何正确安装来自sslforfree的证书。tomcat服务器上的com   java RecyclerView变更单永久   java如何获得屏幕的精确中间位置,即使调整了大小