網(wǎng)站與網(wǎng)站之間互相連接，所以才有了網(wǎng)絡(luò)，才稱為了互聯(lián)網(wǎng)。是以搜索引擎基于這個原理發(fā)明了蜘蛛（spider）.或者也被稱為機(jī)器人（bot）.這是一個很形象的比喻，網(wǎng)站和網(wǎng)站的互聯(lián)，就好比一只蜘蛛在結(jié)網(wǎng)，蜘蛛爬行的網(wǎng)站越多，織的網(wǎng)就越大。蜘蛛的作用就是依據(jù)網(wǎng)站與網(wǎng)站的鏈接訪問和爬行互聯(lián)網(wǎng)上的網(wǎng)站。他的工作流程：搜索引擎的蜘蛛爬行到一個IP或者網(wǎng)址，當(dāng)他爬行到這個IP或者網(wǎng)址的時候首先要訪問一個名為robots.txt的文件，這是一個網(wǎng)站站長給蜘蛛的一個指導(dǎo)性質(zhì)的文件，他告訴了搜索引擎，是否允許被收錄，不允許哪些文件被收錄。然后蜘蛛根據(jù)robots.txt的指示進(jìn)行有序的爬行。這個時候蜘蛛會對域名或者IP網(wǎng)站的服務(wù)器發(fā)出一個訪問這個網(wǎng)站網(wǎng)頁內(nèi)容的請求，請求訪問允許被收錄的頁面。網(wǎng)站所在服務(wù)器根據(jù)蜘蛛的請求,以HTML代碼的形式反饋給蜘蛛請求頁面。蜘蛛得到代碼后，如同螞蟻搬家，將代碼存入搜索引擎自己的服務(wù)器中的原始頁數(shù)據(jù)庫。 搜索引擎的蜘蛛名稱： 谷歌:googlebot 百度:baiduspider MSN:MSNbot?????? Yahoo:Slurp ?（雅虎的和其他的搜索引擎不一樣，帶著自己的名字，雅虎的是用一個擬聲詞命名。這個詞是形容機(jī)器人在吃東西的時候發(fā)出的聲音，比較形象。估計科幻主題類型的素材沒少看）   純Linux環(huán)境下高端免備案［香港獨(dú)立IP地址］?php空間，僅僅只需199元一年起。商務(wù)中國域名核心代理直銷50元注冊國際頂級域名。

本文地址：http://m.love62.cn/seo/3959.html