久久r热视频,国产午夜精品一区二区三区视频,亚洲精品自拍偷拍,欧美日韩精品二区

您的位置:首頁技術(shù)文章
文章詳情頁

python - pyspider 定時(shí)爬取問題

瀏覽:146日期:2022-07-14 10:37:31

問題描述

python - pyspider 定時(shí)爬取問題python - pyspider 定時(shí)爬取問題

python - pyspider 定時(shí)爬取問題

在寫爬蟲的時(shí)候,發(fā)現(xiàn) 在代碼中設(shè)置了 every 之后,21號(hào)爬取了一次之后,今天看 result 沒有更新,那個(gè) lastcrawltime 依舊是 21號(hào)的。請(qǐng)問是不是我的參數(shù)設(shè)置的不正確?

python - pyspider 定時(shí)爬取問題

python - pyspider 定時(shí)爬取問題

python - pyspider 定時(shí)爬取問題

python - pyspider 定時(shí)爬取問題

問題解答

回答1:

你貼的這個(gè) task 的圖,是什么任務(wù)的?

貼的是 detail_page 的任務(wù)的

題主給 index_page 設(shè)置了小于 cronjob 間隔的時(shí)間。然而沒有給 detail_page 設(shè)置。這樣 detail_page 是不會(huì)被重新調(diào)度的

project 隊(duì)列狀態(tài),最近活動(dòng)任務(wù)是怎樣的?

回答2:

有可能是 every 和 age 不匹配。如果 age 沒問題的話,說實(shí)話這屬于疑難雜癥了,我也經(jīng)常遇到,我都是去 taskdb 把相應(yīng)的表清空,然后重啟 pyspider 重新運(yùn)行項(xiàng)目

標(biāo)簽: Python 編程
相關(guān)文章:
主站蜘蛛池模板: 抚顺县| 巴南区| 宿松县| 左权县| 寿宁县| 清丰县| 汝城县| 建瓯市| 镇赉县| 纳雍县| 怀化市| 封丘县| 亚东县| 武宣县| 河东区| 湘潭县| 工布江达县| 金秀| 广水市| 德令哈市| 萨嘎县| 城市| 农安县| 武宣县| 类乌齐县| 深水埗区| 鹤壁市| 乐业县| 团风县| 道孚县| 隆安县| 耒阳市| 青田县| 永安市| 河津市| 吉隆县| 枞阳县| 麟游县| 青岛市| 天峻县| 当涂县|