直接将数据抓取到Cassandra数据库

1 投票
1 回答
1290 浏览
提问于 2025-04-16 20:22

有没有人能帮我解决关于Cassandra数据库的问题?其实,我想把抓取到的数据直接放到Cassandra里。目前,我正在使用scrapy从不同的网站解析数据。

提前谢谢大家。

ssich

1 个回答

2

在Scrapy中,一旦你抓取了数据,就可以通过一个叫做“项目管道”的东西来存储这些数据。

文档写得很简单易懂:http://doc.scrapy.org/en/latest/topics/item-pipeline.html

只需要在你自定义的项目管道中使用Cassandra的Python驱动,就可以把结果存储起来。


编辑:更新了失效的链接,换成了有效的链接。

撰写回答