當(dāng)前位置:首頁 > 全部 > 網(wǎng)站推廣
網(wǎng)站推廣:網(wǎng)站優(yōu)化過程中怎么屏蔽蜘蛛爬行頁面網(wǎng)站優(yōu)化過程中怎么屏蔽蜘蛛爬行頁面?相信很多人都會遇見想屏蔽的頁面被搜索引擎抓取,其實很簡單,只要用好robots文件就行。也就好似robots.txt文件,這個文件可以屏蔽搜索引擎蜘蛛。下面請看具體的操作方法。 User-agent: * (星號代表所有的搜索引擎) Disallow: /admin 。ń顾械乃阉饕嬷┲胱トdmin目錄下的文件) Disallow: /hello (禁止所有的搜索引擎蜘蛛抓取hello目錄下的文件) robots.txt必須放置在一個站點的根目錄下,而且文件名必須全部小寫。 robots.txt文件的格式 User-agent: 定義搜索引擎的類型 Disallow: 定義禁止搜索引擎收錄的地址 Allow: 定義允許搜索引擎收錄的地址 我們常用的搜索引擎類型有: (User-agent區(qū)分大小寫) google蜘蛛:Googlebot 百度蜘蛛:Baiduspider yahoo蜘蛛:Yahoo!slurp alexa蜘蛛:ia_archiver bing蜘蛛:MSNbot altavista蜘蛛:scooter lycos蜘蛛:lycos_spider_(t-rex) alltheweb蜘蛛:fast-webcrawler inktomi蜘蛛: slurp Soso蜘蛛:Sosospider Google Adsense蜘蛛:Mediapartners-Google 有道蜘蛛:YoudaoBot 【 關(guān)閉窗口 】 |
全部
訪談對話
專題論述
專題活動
|