當(dāng)前位置:首頁(yè) > 推廣 > 網(wǎng)站推廣
網(wǎng)站推廣:網(wǎng)站優(yōu)化過(guò)程中怎么屏蔽蜘蛛爬行頁(yè)面網(wǎng)站優(yōu)化過(guò)程中怎么屏蔽蜘蛛爬行頁(yè)面?相信很多人都會(huì)遇見(jiàn)想屏蔽的頁(yè)面被搜索引擎抓取,其實(shí)很簡(jiǎn)單,只要用好robots文件就行。也就好似robots.txt文件,這個(gè)文件可以屏蔽搜索引擎蜘蛛。下面請(qǐng)看具體的操作方法。 User-agent: * (星號(hào)代表所有的搜索引擎) Disallow: /admin 。ń顾械乃阉饕嬷┲胱トdmin目錄下的文件) Disallow: /hello 。ń顾械乃阉饕嬷┲胱トello目錄下的文件) robots.txt必須放置在一個(gè)站點(diǎn)的根目錄下,而且文件名必須全部小寫(xiě)。 robots.txt文件的格式 User-agent: 定義搜索引擎的類(lèi)型 Disallow: 定義禁止搜索引擎收錄的地址 Allow: 定義允許搜索引擎收錄的地址 我們常用的搜索引擎類(lèi)型有: (User-agent區(qū)分大小寫(xiě)) google蜘蛛:Googlebot 百度蜘蛛:Baiduspider yahoo蜘蛛:Yahoo!slurp alexa蜘蛛:ia_archiver bing蜘蛛:MSNbot altavista蜘蛛:scooter lycos蜘蛛:lycos_spider_(t-rex) alltheweb蜘蛛:fast-webcrawler inktomi蜘蛛: slurp Soso蜘蛛:Sosospider Google Adsense蜘蛛:Mediapartners-Google 有道蜘蛛:YoudaoBot 【 關(guān)閉窗口 】 |
推廣
訪談對(duì)話
專(zhuān)題論述
專(zhuān)題活動(dòng)
·網(wǎng)站維護(hù)活動(dòng):如何防止網(wǎng)站被黑?
·網(wǎng)站維護(hù)活動(dòng):網(wǎng)站維護(hù)如何應(yīng)對(duì)網(wǎng)站被黑... ·網(wǎng)站維護(hù)活動(dòng):對(duì)網(wǎng)站訪客行為的分析與研... ·網(wǎng)站維護(hù)活動(dòng):對(duì)網(wǎng)站訪客行為的分析與研... ·網(wǎng)站維護(hù)活動(dòng):服務(wù)器維護(hù)PittyTiger木馬... ·網(wǎng)站維護(hù)活動(dòng):網(wǎng)站維護(hù)從虛擬主機(jī)搬到獨(dú)... 行業(yè)聚焦
·網(wǎng)站維護(hù)修改:缺乏網(wǎng)站維護(hù)安全知識(shí)造成...
·網(wǎng)站維護(hù)修改:網(wǎng)站維護(hù)之?dāng)?shù)據(jù)備份與恢復(fù)... ·網(wǎng)站維護(hù)修改:上海網(wǎng)站維護(hù)公司外包到底... ·網(wǎng)站維護(hù)修改:簡(jiǎn)單實(shí)用解決網(wǎng)站后臺(tái)編輯... ·網(wǎng)站維護(hù)修改:Apache_Struts2高危漏洞來(lái)... ·網(wǎng)站維護(hù)修改:瀏覽器在IE10網(wǎng)站后臺(tái)編輯... |