事實上關(guān)于搜索引擎蜘蛛大量抓取的問題一直都存在的，比如宜某（國內(nèi)某非知名搜索引擎）就是因為其蜘蛛消耗某些網(wǎng)站大量帶寬資源而使得它臭名昭著的，而實際上很多我們所看到的蜘蛛并不是搜索引擎的，而是一些不法分子偽造的，其實也算是在攻擊我們的網(wǎng)站。長沙網(wǎng)站定制開發(fā)團隊微構(gòu)網(wǎng)絡看到，在百度站長平臺上看到其官方發(fā)布的一篇關(guān)于這個問題的文章，分享一下，可以供大家參考參考；全文如下：

Spider對網(wǎng)站抓取數(shù)量突增往往給站點帶來很大煩惱，紛紛找平臺想要Baiduspider IP白名單，但實際上BaiduSpider IP會隨時變化，所以并不敢公布出來，擔心站長設置不及時影響抓取效果。百度是怎么計算分配抓取流量的呢？站點抓取流量暴增的原因有哪些呢？

總體來說，Baiduspider會根據(jù)站點規(guī)模、歷史上網(wǎng)站每天新產(chǎn)出的鏈接數(shù)量、已抓取網(wǎng)頁的綜合質(zhì)量打分等等，來綜合計算抓取流量，同時兼顧站長在抓取頻次工具里設置的、網(wǎng)站可承受的最大抓取值。

從目前追查過的抓取流量突增的case中，原因可以分為以下幾種：

1， Baiduspider發(fā)現(xiàn)站內(nèi)JS代碼較多，調(diào)用大量資源針對JS代碼進行解析抓取

2， 百度其他部門（如商業(yè)、圖片等）的spider在抓取，但流量沒有控制好，sorry

3， 已抓取的鏈接，打分不夠好，垃圾過多，導致spider重新抓取

4， 站點被攻擊，有人仿冒百度爬蟲（推薦閱讀：《如何正確識別BaiduSpider》）

如果站長排除了自身問題、仿冒問題，確認BaiduSpider抓取流量過大的話，可以通過反饋中心來反饋，切記一定要提供詳細的抓取日志截圖。