文章詳情頁
如何提高python查詢速度？
瀏覽：174日期：2022-06-29 18:39:57
問題描述
最近在爬股票的相關新聞，一開始設想的是，當有新的新聞動態發布，程序通過郵件發送最新內容到郵箱。
所以我想把新聞標題，內容存到數據庫里，當內容更新時，把新的內容和數據庫的標題列表對比，看是不是已存在的，如果已存在，那就不發送，如果沒有，那發送到郵箱。
但數量大了以后，列表查詢速度就會變慢，請問各位還有什么方法可以傳授下嗎？
問題解答
回答1：爬蟲任務去重
抓過的鏈接存到一個set中，檢查新鏈接是否在集合中即可。
回答2：去重有很多方法，比如樓上的set或者布隆過濾器都可以有效的使用內存，提升效率
相關文章：
1. css - 新手做響應式布局， 斷點過后右側出現空白，求幫助，謝謝。2. javascript - 關于<a>元素與<input>元素的JS事件運行問題3. javascript - ES6 中能否把 class 屬性 方法 分文件？4. python - 能通過CAN控制一部普通的家用轎車嗎？5. mysql - 查詢字段做了索引為什么不起效,還有查詢一個月的時候數據都是全部出來的，如果分拆3次的話就沒問題，為什么呢。6. mysql - 記得以前在哪里看過一個估算時間的網站7. ID主鍵不是自增的嗎 為什么還要加null8. 大家好，我想請問一下怎么做搜索欄能夠搜索到自己網站的內容。9. MySQL中的enum類型有什么優點？10. css - 關于border-image
排行榜
網公網安備