
qq:800819103
在线客服,实时响应
qq群
在线客服,实时响应
客服电话
13318873961代理ip如何协助爬虫爬取安居客二手房源信息!今天黑洞代理就为大家分享一下爬虫如何爬取安居客二手房源信息的。主要抓取目标是北京二手房信息,在爬取之前,我们先对要爬取的信息进行简单的数据分析。首先打开二手房信息的页面,右键检查,查找我们需要的信息所在的位置,然后进行抓取。
代码如下:
import requests,time,random
from bs4 import BeautifulSoup
headers = {'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/57.0.2987.98 Safari/537.36'}
for i in range(1,30):
url='https://beijing.anjuke.com/sale/p{}/'.format(i)
print(i)
#print(url)
respomse=requests.get(url,headers=headers)
time.sleep(random.randint(0,5)) #防止反爬
#print(respomse.text)
soup=BeautifulSoup(respomse.text,'lxml')
house_list = soup.find_all('li', class_="list-item")
for house in house_list:
title=house.find('div',class_='house-title').a.text.strip()
price=house.find('span',class_='price-det').text.strip()
#带增加
print('title:'+title+ ' price: '+price)
通过上述代码,我们就可以获取到安居客北京二手房源信息了,黑洞代理为您提供安全稳定、高效便捷的爬虫代理IP服务,更多问题请点击官网咨询客服。
相关文章内容简介
1 代理ip如何协助爬虫爬取安居客二手房源信息
代理ip如何协助爬虫爬取安居客二手房源信息!今天黑洞代理就为大家分享一下爬虫如何爬取安居客二手房源信息的。主要抓取目标是北京二手房信息,在爬取之前,我们先对要爬取的信息进行简单的数据分析。首先打开二手房信息的页面,右键检查,查找我们需要的信息所在的位置,然后进行抓取。 代码如下: import∵requests,time,random from∵bs4∵imp... [阅读全文]
最新标签
推荐阅读
19
2019-04
代理ip如何帮助爬虫爬取天气数据信息的?
今天黑洞代理就为大家分享一下爬虫是如何爬取天气数据的。我们以中国天气网的苏州天气为例,在爬取之前,首先我们先打开中国天气网,搜索苏州城市,然后分析网页结构,查找到我们需要
22
2019-04
使用换IP软件做推广有效果吗?
互联网营销时代,再也不是酒香不怕巷子深的年代了。产品不做营销推广很难被消费者认知。通常,我们做营销推广都少不了做一个官网来进行推广,而可以利用换IP软件来辅助的SEO优化更是日
22
2019-03
IP不足得问题爬虫是怎么解决得,可以用代理IP吗?
当你利用爬虫爬取网络信息的时候经常会找不到原因的被目标网站禁止访问,你可以从下面几个方面入手查找原因。
10
2019-01
如何更换电脑的IP地址?更换后有影响吗?
相信我们的平时的生活中都会接触电脑,电脑给人们带来了很多的便利,同时也开阔了我们的视角,有时候我们会需要更改IP地址,例如电脑受到限制或是连接网络失败的情况下,可能就需要更
热门文章