javascript - superagent爬取網(wǎng)站出現(xiàn)重定向問題
問題描述
用superagent爬網(wǎng)頁,遇到重定向,拿不到重定向后的響應(yīng)體,該如何解決,如何獲取重定向后的網(wǎng)頁
我想獲取501頁面的res,但是他跳轉(zhuǎn)到37018頁面,導(dǎo)致我拿到501頁面的空res。
測試了爬取不到的網(wǎng)頁,發(fā)現(xiàn)有2種情況
一開始進(jìn)入網(wǎng)頁響應(yīng)碼是200,過一小會刷新變成304
一進(jìn)入響應(yīng)碼從301重定向到200,過一小會刷新變成304
測試了能爬取到的網(wǎng)頁,發(fā)現(xiàn)有2種情況
一進(jìn)入響應(yīng)碼從301重定向到200,過一小會刷新變成304
一開始進(jìn)入網(wǎng)頁響應(yīng)碼是200,過一小會刷新變成304
啊,我擦,那就沒什么區(qū)別啦,小白不知道這跟我爬不到內(nèi)容有沒有關(guān)系,orz
再再補充
問題不在重定向,而在于我的正則表達(dá)式匹配問題
問題解答
回答1:你都不看官方文檔的嗎?
Following redirects
By default up to 5 redirects will be followed, however you may specifythis with the res.redirects(n) method:
request .get(’/some.png’) .redirects(2) .end(callback);
相關(guān)文章:
1. 一個CSS3 動畫執(zhí)行完成后的問題...2. javascript - 百度地圖自己的產(chǎn)品可以精確定位,為什么我調(diào)用他的公開API卻必須經(jīng)過用戶同意才能獲取精確定位,而且還慢?3. 隨機產(chǎn)生200個小寫英文字母,并統(tǒng)計個數(shù),這是在網(wǎng)上看到的粒子,我想問怎樣把它變得更簡便?4. angular.js - 用angularjs的service封裝百度地圖api出錯,請問原因?5. php自學(xué)從哪里開始?6. PHP類屬性聲明?7. html5 - 如何禁止百度轉(zhuǎn)碼?8. windows10 - mysql時區(qū)問題9. javascript - react+百度地圖10. node.js - vue-resource,如何改變響應(yīng)格式?
