深圳互聯網供應商--貝爾利科技
深圳網站建設、 網站設計、網站改版首選貝爾利深圳網站建設公司
皇家马德里b队
  • 聯系電話:135-9036-6521
    值班電話:135-9036-6521
  • 建站咨詢
    點擊我留言
  • 推廣咨詢
    點擊我留言

網站優化之頁面抓取過程分析

皇家马德里b队 www.nkuycx.com.cn 2018-11-08 10:19:31??文章來源:皇家马德里b队??責任編輯:Addrion

url,即統一資源定位符,通過對url的分析,我們可以更好地理解頁面抓取過程。下面皇家马德里b队貝爾利科技小編就來和大家分享下網站在優化過程中是如何抓取頁面信息的。

一、url是什么意思?

URL,英文全稱為“uniform resource locator”,中文譯為“統一資源定位符”。

在網站優化中要求每一個頁面有且僅有一個唯一的統一資源定位符(URL),但往往很多網站同一頁面對應了很多個URL,如果都被搜索引擎收錄且未做URL轉向,就會產生權重不集中的情況,通常稱為URL不規范。

二、url的組成

統一資源定位符(URL),由三部分組成:協議方案、主機名和資源名。

例如:

https:// www.x**.org /11806

其中https為協議方案,www.***.org 為主機名 ,11806為資源,不過這個資源不太明顯,一般資源后綴為.html,當然還可以是.pdf、.php、.word等格式。

三、頁面抓取過程簡述

無論是我們平時用的互聯網瀏覽器,還是網絡爬蟲,雖然是兩種不同的客戶端,但獲取頁面的方式卻是相同的。頁面抓取過程如下:

① 連接DNS域名系統服務器

客戶端都會先連接到DNS域名服務器上,DNS服務器將主機名( www.***.org )轉換為IP地址,并反饋給客戶端。

PS:本來我們通過111.152 . 151.45 的地址來訪問某網站,為了方便記憶和使用,才利用DNS域名系統轉換為了 www.***.org 。這也就是DNS域名系統的作用。

② 連接IP地址服務器

該IP服務器下可能會有很多程序(網站),可以通過端口號來做區分,同時每個程序(網站)都會監聽端口是否有新的連接請求,HTTP網站默認為80,HTTPS網站默認為443。

不過通常情況下,端口號80和443是默認不出現的。

舉例來講:

https://www.***.org:443/ = https://www.***.org/

//www.***.org:80/ = //www.***.org/

③ 建立連接并發送頁面請求

客戶端與服務器建立連接后,會發送頁面請求,通常為get,也可以是post。

get 11806 HTTPS/1.0

獲取HTTPS協議下的頁面11806 返回給客戶端。之后如需繼續獲取更多頁面,則發送其他請求,否則將關閉該連接。

PS:通常情況下 ,/seo/11806.html 可能會更清晰。也就是發送 https://www.***.org/ 下的 seo文件夾下的 11806.html 的頁面請求。

以上就是今天貝爾利科技小編和大家分享的內容,謝謝大家的閱讀!
責任編輯:Addrion
?