久久r热视频,国产午夜精品一区二区三区视频,亚洲精品自拍偷拍,欧美日韩精品二区

您的位置:首頁(yè)技術(shù)文章
文章詳情頁(yè)

node.js - 使用 superagent 抓取 UTF-8網(wǎng)站亂碼

瀏覽:208日期:2024-07-12 16:23:20

問題描述

我使用 superagent + cheerio 去抓取*東的商品 但是返回的中文亂碼 響應(yīng)頭如下 是經(jīng)過 gzip壓縮的 但是按道理 superagent好像會(huì)默認(rèn)解壓

node.js - 使用 superagent 抓取 UTF-8網(wǎng)站亂碼

*東商品地址https://item.jd.com/5025518.html

我取了商品標(biāo)題 結(jié)果如下node.js - 使用 superagent 抓取 UTF-8網(wǎng)站亂碼

核心代碼如下:

var url = ’https://list.jd.com/list.html?cat=670,671,672’ //京東電腦var totalData = [] // 存儲(chǔ)總數(shù)據(jù)superagent.get(url).end(function (err, res) { if (err) {return console.error(err) } var topicUrls = []; // 頁(yè)面里面的所有url var $ = cheerio.load(res.text) // 拿到頁(yè)面 $(’#plist .gl-item’).each(function (i, e) {$e = $(e)var href = ’https:’ + $e.find(’.p-img >a’).attr(’href’) // 拿到所有urltopicUrls.push(href) }) var ep = new eventproxy();// //異步調(diào)用結(jié)束后,執(zhí)行某些操作 ep.after(’topic_html’, topicUrls.length, function (topics) { //接收res.texttopics = topics.map(function (topicHtml) { var $ = cheerio.load(topicHtml, {decodeEntities: false}); return ({title: $(’.sku-name’).text().trim() });});totalData.push(topics)console.log(totalData); }) topicUrls.forEach(function (e) {superagent.get(e).end(function (err, res) { ep.emit(’topic_html’, res.text);}) })})

問題解答

回答1:

這并不是亂碼啊,如果是亂碼,所有的都亂了,應(yīng)該是你編碼的問題。

回答2:

我直接用postman去請(qǐng)求了你那個(gè)地址,并沒有出現(xiàn)你這種情況,所以我判斷是你IDE或者文本編輯器的問題,將格式設(shè)為 utf-8 。

相關(guān)文章:
主站蜘蛛池模板: 大庆市| 龙川县| 常熟市| 澄江县| 新兴县| 富民县| 甘肃省| 承德县| 陈巴尔虎旗| 顺昌县| 忻州市| 新和县| 麟游县| 滕州市| 综艺| 湖南省| 洱源县| 迁安市| 法库县| 孝义市| 池州市| 英山县| 武平县| 遵化市| 长治市| 乐都县| 克拉玛依市| 南和县| 阿克陶县| 黔西| 苍溪县| 凤台县| 清河县| 郎溪县| 太白县| 河间市| 丽水市| 汝城县| 报价| 辽阳县| 平阳县|