python爬虫 入门需要哪些基础
发布网友
发布时间：2022-04-21 16:59
共3个回答
热心网友
时间：2022-04-07 13:18
从爬虫必要的几个基本需求来讲：
1.抓取
py的urllib不一定去用，但是要学，如果还没用过的话。
比较好的替代品有requests等第三方更人性化、成熟的库，如果pyer不了解各种库，那就白学了。
抓取最基本就是拉网页回来。
如果深入做下去，会发现要面对不同的网页要求，比如有认证的，不同文件格式、编码处理，各种奇怪的url合规化处理、重复抓取问题、cookies跟随问题、多线程多进程抓取、多节点抓取、抓取调度、资源压缩等一系列问题。
所以第一步就是拉网页回来，慢慢会发现各种问题待优化。
2.存储
抓回来一般会用一定策略存下来，而不是直接分析，个人觉得更好的架构应该是把分析和抓取分离，更加松散，每个环节出了问题能够隔离另外一个环节可能出现的问题，好排查也好更新发布。
那么存文件系统、SQLorNOSQL数据库、内存数据库，如何去存就是这个环节的重点。
可以选择存文件系统开始，然后以一定规则命名。
3.分析
对网页进行文本分析，提取链接也好，提取正文也好，总之看的需求，但是一定要做的就是分析链接了。
可以用认为最快最优的办法，比如正则表达式。
然后将分析后的结果应用与其他环节：）
4.展示
要是做了一堆事情，一点展示输出都没有，如何展现价值。
所以找到好的展示组件，去show出肌肉也是关键。
如果为了做个站去写爬虫，抑或要分析某个东西的数据，都不要忘了这个环节，更好地把结果展示出来给别人感受。
热心网友
时间：2022-04-07 14:36
从爬虫基本要求来看：
抓取：抓取最基本就是拉网页回来，所以第一步就是拉网页回来，慢慢会发现各种问题待优化；
存储：抓回来一般会用一定策略存下来，可以选择存文件系统开始，然后以一定规则命名。
分析：对网页进行文本分析，可以用认为最快最优的办法，比如正则表达式；
展示：要是做了一堆事情，一点展示输出都没有，如何展现价值。
热心网友
时间：2022-04-07 16:11
链接：https://pan.baidu.com/s/1wMgTx-M-Ea9y1IYn-UTZaA
课程简介
毕业不知如何就业？工作效率低经常挨骂？很多次想学编程都没有学会？
Python 实战：四周实现爬虫系统，无需编程基础，二十八天掌握一项谋生技能。
带你学到如何从网上批量获得几十万数据，如何处理海量大数据，数据可视化及网站制作。
课程目录
开始之前，魔力手册 for 实战学员预习
第一周：学会爬取网页信息
第二周：学会爬取大规模数据
第三周：数据统计与分析
第四周：搭建 Django 数据可视化网站
......
