搜索引擎蜘蛛我們通常稱它為機器人，是一種能夠自己抓取網站，下載網頁的程序。它可以訪問互聯網上的網頁、圖片、視頻等內容，喜歡收集對用戶有用的內容，而且如果他覺的你好的話，會定期來看你哦，我們要做的事情就是把它們伺候好，順其意投其好。【seo】
一、搜索引擎蜘蛛工作流程
蜘蛛程序分為三個部分：控制器，解析器和索引數據庫
1.控制器負責收集url集合并分配url集合給解析器。
2.解析器獲得url集合后，通過訪問url并下載頁面。
3.索引數據庫存儲解析器下載的頁面并分析頁面內容，以此來確認是否建立數據緩存。
二、抓取機制是什么?
由于網站的頁面鏈接結構多樣化，蜘蛛需要通過制定的爬行規則才能抓到更多頁面，比如深度抓取還有廣度抓取。深度是蜘蛛從當前頁開始，逐個鏈接的爬行下去，處理完后再進下一個頁面的爬行;廣度是蜘蛛會先將這個頁面中鏈接的所有網頁全部抓取，再選擇其中的一個網頁鏈接繼續抓取，這個方法可以使蜘蛛并行處理，增加了抓取的速度，所以是比較常用的方式。
而為了照顧到更多的網站，通常深度與廣度是混合使用的，在抓取中也會考慮網站的權重、規模、外鏈、內容更新等因素，另外為了提高抓取的速度，正常是多個蜘蛛并發分布去爬行頁面。根據徐州seo顧問講的這個原理，建議進行網站優化時要合理做內鏈優化，方便蜘蛛的順利爬行。
另外為什么我們要在高權重的網站做外鏈，原因是這些網站蜘蛛多質量高，帶有導航性我們稱為種子站點，蜘蛛會將這些站做為起始站點，所以我們在這些高權網站添加了鏈接，會增加抓取的入口。


seo實戰：網站不更新排名依然穩定
關注seo代碼標簽細節工作有助于提升網站排名
咨詢服務類網站的內容豐富策略
sem和seo有什么區別？營銷過程中應該如何選擇？
分析站內優化與站外優化的區別，加速關鍵詞排名
不同形式的網站做不同的在線促銷
為什么企業追求簡單的風網站設計有什么優勢？
SEO優化公式，知道等于了解百度排名