<pre id="p5f9z"><thead id="p5f9z"></thead></pre>

      <mark id="p5f9z"></mark>
      <delect id="p5f9z"><var id="p5f9z"><rp id="p5f9z"></rp></var></delect><font id="p5f9z"></font>

      <form id="p5f9z"><var id="p5f9z"></var></form>

      您現在的位置是:主頁 > seo優化 > 石家莊seo細說robots

      石家莊seo細說robots

      時間:2017-08-14 10:02  來源:未知  閱讀次數: 復制分享 我要評論

        robots.txt是搜索引擎中訪問網站的時候要查看的第一個文件。當一個搜索蜘蛛訪問一個站點時,它會首先檢查該站點根目錄下是否存在robots.txt,如果存在,搜索機器人就會按照該文件中的內容來確定訪問的范圍;如果該文件不存在,所有的搜索蜘蛛將能夠訪問網站上所有沒有被口令保護的頁面。

      robots.txt

        robots簡介

        搜索引擎通過一種程序robot(又稱spider),自動訪問互聯網上的網頁并獲取網頁信息。

        您可以在您的網站中創建一個純文本文件robots.txt,在這個文件中聲明該網站中不想被robot訪問的部分,這樣,該網站的部分或全部內容就可以不被搜索引擎收錄了,或者指定搜索引擎只收錄指定的內容。

        robots.txt(統一小寫)是一種存放于網站根目錄下的ASCII編碼的文本文件,它通常告訴網絡搜索引擎的漫游器(又稱網絡蜘蛛),此網站中的哪些內容是不能被搜索引擎的漫游器獲取的,哪些是可以被(漫游器)獲取的。 因為一些系統中的URL是大小寫敏感的,所以robots.txt的文件名應統一為小寫。robots.txt應放置于網站的根目錄下。如果想單獨定義搜索引擎的漫游器訪問子目錄時的行為,那么可以將自定的設置合并到根目錄下的robots.txt,或者使用robots元數據。

        Robots.txt協議并不是一個規范,而只是約定俗成的,所以并不能保證網站的隱私。注意Robots.txt是用字符串比較來確定是否獲取URL,所以目錄末尾有和沒有斜杠“/”這兩種表示是不同的URL,也不能用"Disallow: *.gif"這樣的通配符。

        其他的影響搜索引擎的行為的方法包括使用robots元數據:

        這個協議也不是一個規范,而只是約定俗成的,通常搜索引擎會識別這個元數據,不索引這個頁面,以及這個頁面的鏈出頁面

      相關資訊
      久久综合九色综合|国产ar高清视频 视频|手机看片日韩国产秒拍|日本阿v免费观看视频