Sloth CI服务器的robots.txt

sloth-ci.ext.robots_txt的Python项目详细描述


robots.txt用于Sloth CI服务器。

`robots.txt<;https://en.wikipedia.org/wiki/robots_exclusion_standard>;``是您放在服务器上的一个文件,用于保护某些URL不被爬虫程序访问。

默认情况下,此扩展名在服务器根目录上为*robots.txt*提供服务,例如http://example.com:8080/robots.txt。但是,您可以指定要提供服务的自己的文件和要提供服务的url。



代码块::bash

$pip install sloth ci.ext.robots\u txt



代码块::yaml
:标题:sloth.yml

捆绑的文件被使用(不允许所有人使用所有内容)。
文件:~/robots.txt

robots.txt的url路径。
默认情况下,该文件在根目录下可用:*http://example.com:8080/robots.txt*
path:/static/robots.txt

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
如何在Java中创建固定大小的泛型数组?   javascript Paypal Braintree订阅付款   使用BufferedReader和PrintWriter实现java数据持久化?   类似于iCloud的java唯一google id   java使用网格布局和抓取组合框   java我的while循环无限运行,当我检查它时,它说while循环没有主体,而我认为它显然没有主体   java LWJGL碰撞3D OpenGL   java将Tibco RV切换到WebSphere MQ?   java如何使用Postman从curl发布REST   java是超级的,在通用通配符中是独占的吗?   在swing 1.5中,java在指定时间后自动关闭非模态对话框   java PrimeFaces饼图在JSF 2.0中不显示   java如何在Spring MVC中提供带有xml配置的默认bean实现?   java在eclipse中使用按钮关闭JFrame   java Sqoop jar已弃用   Java中的Getter方法