Python中文网

Python网络爬虫技术

cnpython155

编程书籍推荐:Python网络爬虫技术,由人民邮电出版社2019-04-01月出版,本书发行作者信息: 江吉彬,张良均 著此次为第1次发行, 国际标准书号为:9787115505064,品牌为人民邮电出版社, 这本书采用平装开本为16开,附件信息:未知,纸张采为胶版纸,全书共有165页字数万 字,值得推荐的Python Book。

此书内容摘要

本书以任务为导向,较为全面地介绍了不同场景下Python爬取网络数据的方法,包括静态网页、动态网页、登录后才能访问的网页、PC客户端、App等场景。全书共7章,第1章介绍了爬虫与反爬虫的基本概念,以及Python爬虫环境的配置,第2章介绍了爬取过程中涉及的网页前端基础,第3章介绍了在静态网页中爬取数据的过程,第4章介绍了在动态网页中爬取数据的过程,第5章介绍了对登录后才能访问的网页进行模拟登录的方法,第6章介绍了爬取PC客户端、App的数据的方法,第7章介绍了使用Scrapy爬虫框架爬取数据的过程。本书所有章节都包含了实训与课后习题,通过练习和操作实战,可帮助读者巩固所学的内容。

关于此书作者

张良均,信息系统项目管理师,泰迪杯全国大学生数据挖掘竞赛(www.tipdm.org)发起人。华南师范大学、广东工业大学兼职教授,广东省工业与应用数学学会理事。兼有大型高科技企业和高校的工作经历,主要从事大数据挖掘及其应用的策划、研发及咨询培训。全国计算机技术与软件专业技术资格(水平)考试继续教育和CDA数据分析师培训讲师。发表数据挖掘相关论文数20余篇,已取得国家发明专利12项,主编《Hadoop大数据分析与挖掘实战》《Python数据分析与挖掘实战》《R语言数据分析与挖掘实战》等多本畅销图书,主持并完成科技项目9项。获得SAS、SPSS数据挖掘认证及Hadoop开发工程师证书,具有电力、电信、银行、制造企业、电子商务和电子政务的项目经验和行业背景。

编辑们的推荐

适读人群 :本书可以作为大数据技术爱好者的自学用书,也可作为高校大数据技术类专业的教材。
本书采用了以任务为导向的教学模式,按照解决实际任务的工作流程路线,逐步展开介绍相关的理论知识点,推导生成可行的解决方案,最后落实在任务实现环节。
全书大部分章节紧扣任务需求展开,不堆积知识点,着重于解决问题时思路的启发与方案的实施。通过从任务需求到实现这一完整工作流程的体验,帮助读者真正理解与消化 Python网络爬虫技术。
书中案例全部源于企业真实项目,可操作性强,引导读者融会贯通,并提供源代码等相关学习资源,帮助读者快速掌握大数据相关技能。

Python网络爬虫技术图书的目录

第 1章Python爬虫环境与爬虫简介1
任务1.1认识爬虫1
1.1.1爬虫的概念1
1.1.2爬虫的原理2
1.1.3爬虫的合法性与robot.txt协议4
任务1.2认识反爬虫4
1.2.1网站反爬虫的目的与手段4
1.2.2爬取策略制定5
任务1.3配置Python爬虫环境6
1.3.1Python爬虫相关库介绍与配置7
1.3.2配置MySQL数据库7
1.3.3配置MongoDB数据库16
小结20
实训Python爬虫环境配置21
课后习题21
第 2章网页前端基础23
任务2.1认识Python网络编程23
2.1.1了解Python网络编程Socket库24
2.1.2使用Socket库进行TCP编程26
2.1.3使用Socket库进行UDP编程28
任务2.2认识HTTP29
2.2.1熟悉HTTP请求方法与过程30
2.2.2熟悉常见HTTP状态码32
2.2.3熟悉HTTP头部信息33
2.2.4熟悉Cookie39
小结41
实训使用Socket库连接百度首页41
课后习题42
第3章简单静态网页爬取43
任务3.1实现HTTP请求43
3.1.1使用urllib 3库实现44
3.1.2使用Requests库实现47
任务3.2解析网页52
3.2.1使用Chrome开发者工具查看网页52
3.2.2使用正则表达式解析网页58
3.2.3使用Xpath解析网页61
3.2.4使用Beautiful Soup库解析网页66
任务3.3数据存储74
3.3.1将数据存储为JSON文件74
3.3.2将数据存储到MySQL数据库75
小结78
实训79
实训1生成GET请求并获取指定网页内容79
实训2搜索目标节点并提取文本内容79
实训3在数据库中建立新表并导入数据80
课后习题80
第4章常规动态网页爬取82
任务4.1逆向分析爬取动态网页82
4.1.1了解静态网页和动态网页的区别82
4.1.2逆向分析爬取动态网页85
任务4.2使用Selenium库爬取动态网页88
4.2.1安装Selenium库及下载浏览器补丁88
4.2.2打开浏览对象并访问页面89
4.2.3页面等待90
4.2.4页面操作91
4.2.5元素选取93
4.2.6预期条件96
任务4.3存储数据至MongoDB数据库98
4.3.1了解MongoDB数据库和MySQL数据库的区别99
4.3.2将数据存储到MongoDB数据库100
小结103
实训103
实训1爬取网页“http://www.ptpress. com.cn”的推荐图书信息103
实训2爬取某网页的Java图书信息104
实训3将数据存储到MongoDB数据库中104
课后习题104
第5章模拟登录106
任务5.1使用表单登录方法实现模拟登录106
5.1.1查找提交入口106
5.1.2查找并获取需要提交的表单数据108
5.1.3使用POST请求方法登录112
任务5.2使用Cookie登录方法实现模拟登录114
5.2.1使用浏览器Cookie登录115
5.2.2基于表单登录的Cookie登录117
小结119
实训119
实训1使用表单登录方法模拟登录数睿思论坛119
实训2使用浏览器Cookie模拟登录数睿思论坛120
实训3基于表单登录后的Cookie模拟登录数睿思论坛120
课后习题120
第6章终端协议分析122
任务6.1分析PC客户端抓包122
6.1.1了解HTTP Analyzer工具122
6.1.2爬取千千音乐PC客户端数据125
任务6.2分析App抓包126
6.2.1了解Fiddler工具127
6.2.2分析人民日报App130
小结132
实训133
实训1抓取千千音乐PC客户端的推荐歌曲信息133
实训2爬取人民日报App的旅游模块信息134
课后习题134
第7章Scrapy爬虫135
任务7.1认识Scarpy135
7.1.1了解Scrapy爬虫的框架135
7.1.2熟悉Scrapy的常用命令137
任务7.2通过Scrapy爬取文本信息138
7.2.1创建Scrapy爬虫项目138
7.2.2修改items/pipelines脚本140
7.2.3编写spider脚本143
7.2.4修改settings脚本148
任务7.3定制中间件152
7.3.1定制下载器中间件152
7.3.2定制Spider中间件156
小结157
实训157
实训1爬取“http://www.tipdm.org”的所有新闻动态157
实训2定制BdRaceNews爬虫项目的中间件158
课后习题158
附录A160
附录B163
参考文献166

部分内容试读

暂无.

关于此书评价

暂无.

书摘内容

暂无.

Python网络爬虫技术最新最全的试读、书评、目录、简介信息由Python中文网整理提供。