如何用 Python 一键查房价?


本文经授权转载自数据森麟(ID:shujusenlin)
在这全民买房的时代,有一项技能我觉得是程序员应该要配备的,无论近期要买或是不买,还是要适当的关注房价走向的。我也喜欢浏览房价,但是在网页里看得眼花缭乱的,程序员就该用程序员的方式看嘛!
于是我用python+selenium来抓取链家房数据,selenium自动化优点是完全可以模拟人工操作网页,而且相对其他爬虫不用写请求头,例如直接request的。

前期准备
1、安裝selenium
命令行:pip install selenium 敲回车
2、下载chromedriver对应的版本:
http://chromedriver.storage.googleapis.com/index.html

直接放在Python的Scripts目录下就可以不用配置变量了,而且也不用声明路径
(后面会说)
3、安裝pyquery:

命令行:pip install pyquery
4、安裝pymysql
命令行:pip install pymysql


网页分析
我们不用声明请求头的参数了,只要我们拿到URL,指哪爬哪!
此次抓取的数据如下:

打开开发者工具,谷歌浏览器按F12

发现每个小区的售房信息都在ul下的li标签里,代码如下:

第一步拿到html结构,然后用pyquery解析遍历li标签,我使用了items()方法
接着提取小区名称,找到a标签的class:

提取房类的文本,span标签下面:

其他的Text文本都是这样的方法提取
提醒的一点就是,需要判断一下ul的class,防止有时候网络加载的问题,导致发生错误。

模拟滚动
每跳转一页就滚动一下滚动条,这样做的有好处是有些时候是异步加载的,例如查看评论:

这里可以根据个人不同来定义,我这里以800来滚动。
然后是点击下一页的动作,网页有下一页的选项。一些其他的小动作,可以自己添加哦!

数据存储
我这里用mysql存放数据

数据展示:

源码地址:
https://blog.csdn.net/weixin_42946604/article/details/86618237
作者介绍:timber ,在一家电子商务(外贸)公司任职运维,平常工作时我觉得敲命令的样子也很帅。 ---Python,Changed me!
个人博客地址:
https://blog.csdn.net/weixin_42946604



热 文 推 荐
print_r('点个好看吧!');
var_dump('点个好看吧!');
NSLog(@"点个好看吧!");
System.out.println("点个好看吧!");
console.log("点个好看吧!");
print("点个好看吧!");
printf("点个好看吧!");
cout < < "点个好看吧!" < < endl;
Console.WriteLine("点个好看吧!");
fmt.Println("点个好看吧!");
Response.Write("点个好看吧!");
alert("点个好看吧!")
echo "点个好看吧!"

关注公众号:拾黑(shiheibook)了解更多
[广告]赞助链接:
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/
关注网络尖刀微信公众号随时掌握互联网精彩
- 1 绘就共同富裕新画卷 7904376
- 2 芬兰总理正式向中韩日民众道歉 7808913
- 3 史上最长春节有人计划请5休15 7714185
- 4 这一年 一个个暖心瞬间令人难忘 7617797
- 5 “我对着那捧黄土呆了一个下午” 7520231
- 6 乌神秘“第13组”首袭俄罗斯潜艇 7429386
- 7 委内瑞拉到“生死关头”了吗 7332620
- 8 央视曝光套路贷:借13万要还1300万 7234003
- 9 今起海南自贸港全岛封关 7141296
- 10 最能生娃省份排名来了 7045399







程序人生
