對于搜索引擎來說，要抓取互聯網上所有的網頁幾乎是不可能的。那么蜘蛛是怎么抓取的呢?今天創新互聯就繼續來討論：搜索引擎的工作原理還有哪些?一起來看看!

從目前公布的數據來看，容量大的搜索引擎也不過是抓取了整個網頁數量的40%左右。這其中的原因一方面是抓取技術的瓶頸，無法遍歷所有的網頁，有許多網頁無法從其他網頁的鏈接中找到;另一方面是存儲技術和處理技術的問題。如果按照每個頁面的平均大小為20K計算(包含圖片)，100億網頁的容量是100-2000G字節。即使能過存儲，下載也存在問題(按照一臺機器每秒下載20K計算，需要240臺機器不停地下載一年時間，才能把所有網頁下載完畢)。

同時，由于數據量太大，在提供搜索時也會有效率方面的影響。因此，許多搜索引擎的搜索引擎蜘蛛只是抓取哪些重要的網頁，而在抓取的時候，評價重要性主要的依據是某個網頁的鏈接深度。

在抓取網頁的時候，搜索引擎蜘蛛一般有兩種策略：廣度優先和深度優先。廣度優先是指搜索引擎蜘蛛會先抓取起始網頁中鏈接的所有網頁，然后再選擇其中一個鏈接網頁，繼續花去在此網頁中鏈接的所有網頁。這是最常用的方式，因為這個方法可以讓搜索引擎并行處理，提高其抓取速度。深度優先是指搜索引擎蜘蛛會從起始頁開始，一個鏈接一個鏈接跟蹤下去，處理完這條線路之后再轉入下一個起始頁，繼續跟蹤鏈接。這個方法有個優點是搜索引擎蜘蛛在設計的時候比較容易。

由于不可能抓取所有的網頁，有些搜索引擎蜘蛛對一些不太重要的網站，設置了訪問的層數如下圖，A為起始網頁，屬于0層，B、C、D、E、F屬于第1層，G、H屬于第2層，I屬于第3層。如果搜索引擎蜘蛛設置的訪問層數為2的話，網頁I是不會被訪問到的。這也讓有些網站上的一部分網頁能夠在搜索引擎上搜索到，另外一部分不能被搜索到。對于網站設計者來說，扁平化的網站結構設計有助于搜索引擎抓取其更多的網頁。

搜索引擎蜘蛛在訪問網站網頁的時候，經常會遇到加密數據和為網頁權限的問題，有些網頁是需要有會員權限才能訪問的。當然，網站的所有者可以通過協議讓搜索引擎只注意不去抓取，但對于一些出售報告的網站，他們希望搜索引擎能搜索到他們的報告，但又不能完全免費地讓搜索者查看，這樣就需要給搜索引擎蜘蛛提供相應的用戶名和密碼。搜索引擎蜘蛛可以通過所給的權限對這些網頁進行網頁抓取，從而提供搜索。而當搜索者點擊查看該網頁的時候，同樣需要搜索者提供相應的權限驗證。

網頁題目：專業SEO技術：蜘蛛spider的抓取方式
URL地址：http://m.2m8n56k.cn/news18/23518.html

成都網站建設公司_創新互聯，為您提供自適應網站、網站導航、移動網站建設、定制網站、建站公司、微信小程序

廣告

聲明：本網站發布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯系客服。電話：028-86922220；郵箱：[email protected]。內容未經允許不得轉載，或轉載時需注明來源： 創新互聯