文章詳情頁
python - pyspider 定時(shí)爬取問題
瀏覽:146日期:2022-07-14 10:37:31
問題描述
在寫爬蟲的時(shí)候,發(fā)現(xiàn) 在代碼中設(shè)置了 every 之后,21號(hào)爬取了一次之后,今天看 result 沒有更新,那個(gè) lastcrawltime 依舊是 21號(hào)的。請(qǐng)問是不是我的參數(shù)設(shè)置的不正確?
問題解答
回答1:你貼的這個(gè) task 的圖,是什么任務(wù)的?
貼的是 detail_page 的任務(wù)的
題主給 index_page 設(shè)置了小于 cronjob 間隔的時(shí)間。然而沒有給 detail_page 設(shè)置。這樣 detail_page 是不會(huì)被重新調(diào)度的
project 隊(duì)列狀態(tài),最近活動(dòng)任務(wù)是怎樣的?
回答2:有可能是 every 和 age 不匹配。如果 age 沒問題的話,說實(shí)話這屬于疑難雜癥了,我也經(jīng)常遇到,我都是去 taskdb 把相應(yīng)的表清空,然后重啟 pyspider 重新運(yùn)行項(xiàng)目
相關(guān)文章:
1. css - 如何使用 vue transition 實(shí)現(xiàn) ios 按鈕一樣的平滑切換效果2. angular.js - angular內(nèi)容過長(zhǎng)展開收起效果3. docker安裝后出現(xiàn)Cannot connect to the Docker daemon.4. python簡(jiǎn)單的問題,智商不夠用了。。。5. python - pycharm的代碼風(fēng)格問題6. 關(guān)于python切片的問題7. mysql - 把一個(gè)表中的數(shù)據(jù)count更新到另一個(gè)表里?8. python - 《flask web 開發(fā)》一書,數(shù)據(jù)庫中多對(duì)多關(guān)系的實(shí)現(xiàn)問題?9. mysql 里邊,自增長(zhǎng)id,寫數(shù)據(jù)時(shí),是先把數(shù)據(jù)寫進(jìn)去,然后再給這條數(shù)據(jù)一個(gè)id,還是先給id,然后再把要插入的數(shù)據(jù)寫進(jìn)去10. javascript - 前端怎樣實(shí)現(xiàn)圖片剪切一部分上傳呢?像微信或者QQ上傳那樣呢?用的啥技術(shù)
排行榜

熱門標(biāo)簽