當(dāng)前位置:首頁 >  站長 >  網(wǎng)站運營 >  正文

分析網(wǎng)站日志中百度蜘蛛返回304狀態(tài)碼的情況

 2012-08-21 16:50  來源: 肖俊博客   我來投稿 撤稿糾錯

  域名預(yù)訂/競價,好“米”不錯過

最近遇到一個網(wǎng)站被百度蜘蛛抓取首頁后大量返回304狀態(tài)碼的問題,以前遇到過301和302,就是沒了解過304,剛好可以對這個情況進行一下分析和觀察,以便比較深入的了解該問題的出現(xiàn)以及應(yīng)對之策。

 

百度百科對304狀態(tài)碼是這么解釋的:如果客戶端發(fā)送了一個帶條件的 GET 請求且該請求已被允許,而文檔的內(nèi)容(自上次訪問以來或者根據(jù)請求的條件)并沒有改變,則服務(wù)器應(yīng)當(dāng)返回這個304狀態(tài)碼。簡單的表達就是:客戶端已經(jīng)執(zhí) 行了GET,但文件未變化,也就是我們所理解的頁面沒更新。

GET /index.html - 80 - 220.181.135.120 Sosospider+(+) 304 0 0

GET /index.html - 80 - 123.129.209.113 Mozilla/5.0+(compatible;+Baiduspider/2.0;++) 304 0 0

但網(wǎng)站每天都有較多內(nèi)容的更新,怎么會返回未更新的狀態(tài)碼呢,查看了網(wǎng)站進幾天的網(wǎng)站IIS日志,發(fā)現(xiàn)這幾天對首頁的抓取都是返回的304狀態(tài)碼,一般情況下大概會是一下幾種可能:

1、服務(wù)器緩存緣故

設(shè)置緩存的作用一般都是為了加速網(wǎng)站的提前加載,就像我們在瀏覽器*問網(wǎng)站的時候也比較容易出現(xiàn)緩存問題,當(dāng)你打開一個網(wǎng)站之后,如果該網(wǎng)站有更 新或者有 變化,直接點擊首頁會發(fā)現(xiàn)還是之前訪問的頁面,而ctrl+F5重新加載后才會顯示新的頁面,這其實就是緩存的緣故。另外,有的時候和一些較大的網(wǎng)站換友 情鏈接也會遇到,對方加了友鏈之后首頁不會馬上顯示,會因為緩存而需要過一段時間才能顯示。

2、網(wǎng)站結(jié)構(gòu)問題

如果網(wǎng)站結(jié)構(gòu)不能有效的讓蜘蛛順利爬行,也就是說雖然蜘蛛有抓取,但由于網(wǎng)站結(jié)構(gòu)問題導(dǎo)致蜘蛛前后兩次抓取內(nèi)容相同,或者說蜘蛛每次抓取首頁都只抓了那塊固定的內(nèi)容,那么就勢必導(dǎo)致蜘蛛對首頁的抓取返回304狀態(tài)碼。

3、網(wǎng)站速度問題

谷歌就針對網(wǎng)站的加載時間更 新過算法,把網(wǎng)站加載時間納入了排名因素,就算搜索引擎排名不重視這點,對于用戶體驗也是有很大影響,誰也不會愿意多花時間在一個需要加載幾十秒甚至幾分 鐘的網(wǎng)站上面。而對于搜索蜘蛛也是如此,網(wǎng)站的加載速度也會影響蜘蛛的正常抓取,一般情況下網(wǎng)站都是從上往下的加載,而有的時候由于速度因素導(dǎo)致網(wǎng)站只加 載了頭部,后面部分而沒有及時顯示出來,也可能導(dǎo)致蜘蛛只抓取了頭部部分內(nèi)容,而由于一般網(wǎng)站的頭部都是相同的,也就容易出現(xiàn)了抓取返回沒更新的狀態(tài)碼。

另外,網(wǎng)絡(luò)線路的互通也是一個因素。

4、網(wǎng)站內(nèi)容問題

網(wǎng)上查找了下關(guān)于304狀態(tài)碼的一些內(nèi)容,不少人都認為是網(wǎng)站內(nèi)容長期采集或是偽原創(chuàng)也能導(dǎo)致蜘蛛返回該狀態(tài)碼,因為網(wǎng)站內(nèi)容采集或偽原創(chuàng)的確會降 低網(wǎng)站質(zhì)量,導(dǎo)致百度不收錄等情況,搜索蜘蛛也會認為網(wǎng)站內(nèi)容不具備收錄的意義,那么也就不會抓取新的內(nèi)容而返回沒有更新的狀態(tài)。

5、重視該狀態(tài)碼

既然304狀態(tài)碼是表示未更新的情況,那么經(jīng)常出現(xiàn)就需要引起重視,同時也需要觀察出現(xiàn)該狀態(tài)碼的同時網(wǎng)站各方面數(shù)據(jù)的變化和趨勢,以便對該狀態(tài)碼的影響有較好的了解。

暫時網(wǎng)站出現(xiàn)304狀態(tài)碼之后經(jīng)過百度更新收錄有所減少,前幾天有過斷斷續(xù)續(xù)的網(wǎng)站無法訪問的情況,第二天網(wǎng)站首頁就被K掉,在更換服務(wù)器之后恢復(fù)網(wǎng)站正常訪問,次日首頁再次恢復(fù),目前仍需要觀察和分析,才能更好掌握該狀態(tài)碼。

文章為肖俊博客原創(chuàng),原文地址: (轉(zhuǎn)載請以鏈接形式注明出處,謝謝)

申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機遇!

相關(guān)文章

熱門排行

信息推薦