这是我的蜘蛛。 在我执行蜘蛛之后,什么都没有出现。 我不知道为什么它是空白的。 我觉得问题是收益和回报,但我不知道如何改变它。你知道吗
import scrapy
from scrapy.http import Request
from scrapy import Selector
from CSDNBlog1.items import Csdnblog1Item
class CSDNBlogSpider(scrapy.Spider):
name='CSDNBlog1'
download_delay=1
allowed_domains=['blog.csdn.net']
starts_urls=['http://blog.csdn.net/u012150179/article/details/117490171']
def parse(self,response):
sel=Selector(response)
items=[]
item=Csdnblog1Item()
aricle_url=str(response.url)
article_name=sel.xpath('//div[@id="article_details"]/div/h1/span/a/text()').extract()
item['article_name']=[n.encode('utf-8') for n in article_name]
item['article_url']=article_url.encode('utf-8')
yield item
urls=sel.xpath('//li[@class="next_article"]/a/@href').extract()
for url in urls:
print(url)
url="http://blog.csdn.net"+url
print(url)
yield Request(url,callback=self.parse)
这是我的蜘蛛情况,它什么也没做。你知道吗
2017-02-06 15:35:46 [scrapy] INFO: Spider opened
2017-02-06 15:35:46 [scrapy] INFO: Crawled 0 pages (at 0 pages/min), scraped 0
目前没有回答
相关问题 更多 >
编程相关推荐