使用Scrapy创建爬虫时发生爬虫生成错误

2 投票
3 回答
2103 浏览
提问于 2025-04-15 22:45

我刚在Windows 32位上下载了Scrapy(一个网页爬虫),并使用命令“scrapy-ctl.py startproject dmoz”在命令提示符下创建了一个新的项目文件夹。接着,我用这个命令创建了第一个爬虫:

scrapy-ctl.py genspider myspider myspdier-domain.com

但是它没有成功,返回了一个错误:

错误:运行scrapy-ctl.py genspider时出错,无法在python路径中找到项目设置模块:scrapy_settings。

我知道我的路径设置是正确的(指向python26/scripts),但我还是搞不清楚问题出在哪里。我对Scrapy和Python都很陌生,所以很可能我漏掉了什么重要的步骤。

另外,我一直在用Eclipse和Pydev插件来编辑代码,不知道这是否会造成一些问题。

3 个回答

0

把PYTHONPATH这个环境变量设置为python26/scripts。

1

在项目的目录下使用 scrapy-ctl.py 这个脚本。这个脚本会了解你这个项目的设置。而主程序 scrapy-ctl.py 对于你这个特定项目的设置就不知道了。

2

PATH和PYTHON_PATH是有区别的。你的PYTHON_PATH设置正确吗?这个路径是Python用来查找要包含的包和模块的地方。

撰写回答