python爬取鏈家二手房的數(shù)據(jù)
打開鏈家官網,進入二手房頁面,選取某個城市,可以看到該城市房源總數(shù)以及房源列表數(shù)據(jù)。
某些網站的數(shù)據(jù)是存放在html中,而有些卻api接口,甚至有些加密在js中,還好鏈家的房源數(shù)據(jù)是存放到html中:
通過requests請求頁面,獲取每頁的html數(shù)據(jù)
# 爬取的url,默認爬取的南京的鏈家房產信息url = ’https://nj.lianjia.com/ershoufang/pg{}/’.format(page)# 請求urlresp = requests.get(url, headers=headers, timeout=10)四、解析html,提取有用數(shù)據(jù):
通過BeautifulSoup解析html,并提取相應有用的數(shù)據(jù)
soup = BeautifulSoup(resp.content, ’lxml’)# 篩選全部的li標簽sellListContent = soup.select(’.sellListContent li.LOGCLICKDATA’)# 循環(huán)遍歷for sell in sellListContent: # 標題 title = sell.select(’div.title a’)[0].string # 先抓取全部的div信息,再針對每一條進行提取 houseInfo = list(sell.select(’div.houseInfo’)[0].stripped_strings) # 樓盤名字 loupan = houseInfo[0] # 對樓盤的信息進行分割 info = houseInfo[0].split(’|’) # 房子類型 house_type = info[1].strip() # 面積大小 area = info[2].strip() # 房間朝向 toward = info[3].strip() # 裝修類型 renovation = info[4].strip() # 房屋地址 positionInfo = ’’.join(list(sell.select(’div.positionInfo’)[0].stripped_strings)) # 房屋總價 totalPrice = ’’.join(list(sell.select(’div.totalPrice’)[0].stripped_strings)) # 房屋單價 unitPrice = list(sell.select(’div.unitPrice’)[0].stripped_strings)[0]
以上就是我的分享,如果有什么不足之處請指出,多交流,謝謝!
以上就是python爬取鏈家二手房的數(shù)據(jù)的詳細內容,更多關于python爬取鏈家二手房的資料請關注好吧啦網其它相關文章!
相關文章:
1. Python安裝并操作redis實現(xiàn)流程詳解2. 部署vue+Springboot前后端分離項目的步驟實現(xiàn)3. Django如何使用asyncio協(xié)程和ThreadPoolExecutor多線程4. AspNetCore&MassTransit Courier實現(xiàn)分布式事務的詳細過程5. 如何用 Python 制作一個迷宮游戲6. vue組件庫的在線主題編輯器的實現(xiàn)思路7. idea設置自動導入依賴的方法步驟8. AJAX實現(xiàn)數(shù)據(jù)的增刪改查操作詳解【java后臺】9. 網頁中img圖片使用css實現(xiàn)等比例自動縮放不變形(代碼已測試)10. JavaScript實現(xiàn)組件化和模塊化方法詳解
