通擎網絡科技是專業提供合肥網絡推廣、合肥網站推廣、網站優化、企業網站建設、短視頻運營推廣等網絡營銷推廣外包服務的合肥網絡公司!XML網站地圖
一、先了解什么是robots文件?
Robots是站點與spider溝通的重要渠道,站點通過robots文件聲明本網站中不想被搜索引擎收錄的部分或者指定搜索引擎只收錄特定的部分。
二、robots功能用途是什么?
robots協議用來告知搜索引擎哪些頁面能被抓取,哪些頁面不能被抓取;可以屏蔽一些網站中比較大的文件,如:圖片,音樂,視頻等,節省服務器帶寬;可以屏蔽站點的一些死鏈接。方便搜索引擎抓取網站內容;設置網站地圖連接,方便引導蜘蛛爬取頁面。
三、Robots.txt文件的作用是什么?
一般來說出于安全的考慮,在網站seo優化時寫入robots.txt文件,實際上就是告訴搜索引擎蜘蛛,網站上哪些內容允許抓取,哪些內容不允許抓取,這樣做可以提高搜索引擎的抓取效率,增加搜索引擎對網站的友好度。
四、Robots文件可以屏蔽的內容是什么?
1、圖片目錄圖片是構成網站的主要組成元素。隨著現在建站越來越方便,大量CMS建站。就存在大量的沒有用到的圖片,建議你應該在robots.txt文件中進行屏蔽,通常的網站圖片目錄是:imags?;蛘遡mg;
2、網站模板目錄如上面圖片目錄中所說,CMS的強大和靈活,網站的模板目錄跟網站的內容主題不符,不利于集中網站的相關度。模板目錄的文件目錄是:templets
3、CSS、JS目錄的屏蔽這個經??匆娢覀冇行┚W站的css文件和js被收錄了,想要被收錄的文章沒被收錄,這對seo無用文件卻收錄,確實沒有這個必要,也不利于集中網站的相關度。
4、屏蔽雙頁面的內容大家都知道DEDECMS可以使用靜態和動態URL進行同一篇內容的訪問,如果你生成全站靜態了,那你必須屏蔽動態地址的URL鏈接。這里有兩個好處:
1)、搜索引擎對靜態的URL比動態的URL更友好、更容易收錄;
2)、防止靜態、動態URL能訪問同一篇文章而被搜索引擎判為重復內容。
3)、模板緩存目錄很多CMS程序都有緩存目錄,這種緩存目錄的好處我想不用說大家也清楚了吧,可以非常有效的提升網站的訪問速度,減少網站帶寬,對用戶體驗也是很好的。不過,這樣的緩存目錄也有一定的缺點,那就是會讓搜索引擎進行重復的抓取,一個網站中內容重復也是大祭,對網站百害而無一利,很多使用CMS建站的朋友都沒有注意到,必須要引起重視。
4)被刪除的目錄死鏈過多,對搜索引擎優化來說,是致命的。
五、網站robots.txt文件生成方法
首先登錄網站后臺,選擇“我的站點”,在右側的欄目中找到“編輯”,然后找到需要做robots的頁面,點擊進去(如下圖所示):
以上內容就是合肥網站推廣小通干貨分享的robots文件用途和生成方法,為了寫這篇文章,小通可是研究了一個星期關于robots文件的內容,就是希望能實實在在幫助到大家,大家可以動手操作嘗試,不動手操作,不認真研究,你始終邁不過這個坎,如果您覺得這篇文章對您有所幫助,可以高抬貴手,收藏我們的網站吧,再此感謝。