PHPCMS v9 的robots.txt文件詳解
2016-09-04 分類： 網(wǎng)站建設(shè)
#
# robots.txt for PHPCMS v9
#
User-agent: * 這里的*代表的所有的搜索引擎種類，*是一個通配符
Disallow: /caches/禁止爬尋緩存目錄下的所有文件
Disallow: /phpcms/禁止爬尋phpcms的核心目錄下的目錄
Disallow: /install/禁止訪問安裝包目錄下的目錄
Disallow: /phpsso_server/禁止爬尋phpsso_server目錄下的目錄
Disallow: /api/禁止爬尋接口目錄下的目錄
Disallow: /admin.php/ 這里定義是禁止蜘蛛爬尋admin目錄下面的目錄
上面的robots.txt文件的寫法，都是禁止蜘蛛爬尋相關(guān)目錄的，那么允許爬尋目錄怎么寫呢？
我們把上面的寫法改成允許蜘蛛爬尋目錄：只需把“Disallow”替換成“Allow”即可。當(dāng)然這樣做是沒有意義的，一般情況下，我們只寫禁止爬尋的目錄，默認(rèn)情況下都是允許訪問的。
如果我們不設(shè)置禁止爬尋目錄會出現(xiàn)什么情況呢？
比如我們把上面的"Disallow: /admin.php/"改成"Allow: /admin.php/"，這樣也就允許蜘蛛爬尋網(wǎng)站后臺的相關(guān)網(wǎng)頁，當(dāng)我們在百度搜索時，有時看到一篇文章，我們點(diǎn)擊，打開的網(wǎng)頁告訴你沒有權(quán)限查看。有些情況下，我們不允許蜘蛛爬尋某些頁面鏈接的某部分。比如很多論壇或者博客的評論，允許游客寫個人主頁的鏈接，當(dāng)游客發(fā)表評論時昵稱會帶上個人主頁的超鏈接，當(dāng)我們點(diǎn)擊時會跳轉(zhuǎn)到個人主頁。這個功能可以使個人主頁帶來更多的展現(xiàn)機(jī)會。后面的部分是評論者所寫的個人主頁的鏈接。大家當(dāng)然看不明白，因?yàn)槲矣煤瘮?shù)處理過了。我的robots.txt文件是這樣寫的：
Disallow: /tourl/* 這是告訴蜘蛛，不要爬尋http://seo.cdkjz.cn/wangzhan后面的鏈接了。這樣做的作用是，防止本網(wǎng)站的權(quán)重分流到比本站權(quán)重低的網(wǎng)站去。站長們在做友情鏈接時，一般都是要求交換pr值相等鏈接，原因也就在于此。
新聞名稱：PHPCMS v9 的robots.txt文件詳解
分享路徑：http://m.2m8n56k.cn/news/46116.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供外貿(mào)建站、網(wǎng)站設(shè)計公司、網(wǎng)站營銷、面包屑導(dǎo)航、外貿(mào)網(wǎng)站建設(shè)、動態(tài)網(wǎng)站
聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容
- 成都網(wǎng)絡(luò)公司哪家好？ 2016-09-04
- 成都網(wǎng)站定制造成失敗的原因有哪些？ 2016-09-04
- 網(wǎng)站備案時域名證書上的域名所有人必須和主辦單位一致？ 2016-09-03
- 成都現(xiàn)在有多少家網(wǎng)絡(luò)公司？ 2016-09-03
- 創(chuàng)新互聯(lián)開通站長博客 2016-09-03
- 今天我下決心更改創(chuàng)新互聯(lián)的網(wǎng)站標(biāo)題了 2016-09-03
- 做一個企業(yè)網(wǎng)站大概要多少錢？ 2016-09-04
- php用一個數(shù)組值作為其鍵名另一個數(shù)組值作其值建新數(shù)組 2016-09-04
- 是哪個百度說“封殺外鏈”了？ 2016-09-03
- 百度站長平臺工具功能升級，版本為2.0 2016-09-03
- 如何打造網(wǎng)站高權(quán)重頁面? 2016-09-03
- ?建立網(wǎng)站基礎(chǔ)花費(fèi)大約必須是多少 2016-09-03
- PHPCMSV9前臺會員注冊提示操作失敗的解決辦法 2016-09-03
- 怎樣讓你的網(wǎng)站頁面獲得更多的點(diǎn)擊量？ 2016-09-03
- 聽說百度要搞原創(chuàng)保護(hù)了，你怎么看這件事情？ 2016-09-03
- 選擇模板建站真的是你需要的嗎？ 2016-09-03
- 關(guān)于站點(diǎn)屬性中文名審核功能暫緩開放的公告 2016-09-03
- 蘋果Safari或步微軟IE后塵 被開發(fā)者和用戶遺棄 2016-09-03
- 企業(yè)建一個網(wǎng)站需要多少費(fèi)用？大約需要多長時間？ 2016-09-03