問題：修改網站的robots.txt是否會影響蜘蛛爬取？

回答：通常情況下搜索引擎會遵守robots文件，如果我們在robots.txt文件里面對某些頁面做了限制，那么搜索引擎蜘蛛是不會去抓取的，也就是說robots.txt文件會影響到蜘蛛抓取。對于robots.txt和蜘蛛爬取，有以下兩個方面的問題大家需要注意。

一、robots.txt限制整站抓取，搜索引擎還是會收錄首頁

很多朋友提到明明自己的網站，在robots.txt文件里限制了所有搜索引擎蜘蛛抓取，但是百度還是收錄了首頁。這種情況是正常的，但是大家要注意的是，雖然蜘蛛抓取了頁面，也收錄了，但是百度快照里面是沒有內容的，如果我們去點擊百度快照，會跳轉至百度搜索資源平臺。也就是說，雖然蜘蛛抓取了，但是并沒有保存頁面文件。

二、搜索引擎蜘蛛對robots.txt有反應時間

我們在正式開放蜘蛛抓取之前，通常會設置robots.txt文件，限制所有搜索引擎蜘蛛抓取。但是有朋友反映，在放開了robots.txt文件限制以后，蜘蛛還是不過來抓取，這其實就是搜索引擎蜘蛛對robots.txt文件的反應需要時間，這個時間通常是一個星期以內。

我們再回到robots.txt和蜘蛛爬取上面來，總體上搜索引擎蜘蛛會嚴格遵守robots.txt文件協議，對于robots.txt文件限制的頁面，蜘蛛不糊去抓取。所有對于那些沒有搜索需求的頁面，我們可以在robots.txt文件里面進行設置，這樣就可以集中抓取頻次和防止權重分散。當然，我們可以把robots.txt文件和nofollow標簽結合起來使用。

另外大家要注意蜘蛛對robots.txt文件的反映時間，不要因為幾天蜘蛛沒有來抓取，就懷疑是網站其他地方出現了問題，應該耐心等待。

關于robots.txt和蜘蛛爬取的問題，筆者在本文簡要的給大家做了說明。總之來說，修改網站的robots.txt會影響蜘蛛爬取，至于是減少抓取量還是增加抓取量，這需要具體分析對robots.txt做了怎樣的修改。另外robots.txt里面還可以設置網站地圖，這對于網站頁面收錄有幫助。