客服
百度站長平臺lee官方版：搜索引擎索引系統(tǒng)概述（一）
眾所周知，搜索引擎的主要工作過程包括：抓取、存儲、頁面分析、索引、檢索等幾個主要過程。過去幾周給大家介紹了抓取相關(guān)的簡要過程。今天簡要介紹一下索引系統(tǒng)，以億為單位的網(wǎng)頁庫中查找特定的某些關(guān)鍵詞猶如大海里面撈針，也許一定的時間內(nèi)可以完成查找，但是用戶等不起，從用戶體驗角度我們必須在毫秒級別給予用戶滿意的結(jié)果，否則用戶只能流失。怎樣才能達到這種要求呢？西安網(wǎng)站建設(shè)推薦閱讀>>> 搜索引擎原理簡單分析帶圖,
如果能知道用戶查找的關(guān)鍵詞（query切詞后）都出現(xiàn)在哪些頁面中，那么用戶檢索的處理過程即可以想象為包含了query中切詞后不同部分的頁面集合求交的過程，而檢索即變成了頁面名稱之間的比較、求交。這樣，在毫秒內(nèi)以億為單位的檢索成為了可能。這就是通常所說的倒排索引及求交檢索的過程。如下為建立倒排索引的基本過程：
?。?）頁面分析的過程實際上是將原始頁面的不同部分進行識別并標(biāo)記，例如：title、keywords、content、link、anchor、評論、其他非重要區(qū)域等等；
?。?）分詞的過程實際上包括了切詞分詞同義詞轉(zhuǎn)換同義詞替換等等，以對某頁面title分詞為例，得到的將是這樣的數(shù)據(jù)：term文本、termid、詞類、詞性等等；西安做網(wǎng)站推薦閱讀>>> 搜索引擎抓取系統(tǒng)概述,
?。?）之前的準備工作完成后，接下來即是建立倒排索引，形成{termàdoc}，可以粗略的理解為如下，為什么是【term->doc】,而不是直接應(yīng)用【doc->term】呢？
上述即是索引系統(tǒng)中的倒排索引過程，是搜索引擎實現(xiàn)毫秒級檢索非常重要的一個環(huán)節(jié)。西安做網(wǎng)站推薦閱讀>>> Baiduspider抓取過程中的策略,
相關(guān)文章：
-
搜索引擎的工作的過程非常復(fù)雜，而簡單的講搜索引擎的工作過程大體可以分成三個階段。 爬行和抓取：搜索引擎蜘蛛通過跟蹤鏈接訪問頁面，獲取頁面HTML代碼存入數(shù)據(jù)庫。 預(yù)處理：搜索贏...
-
搜索引擎，通常指的是收集了因特網(wǎng)上幾千萬到幾十億個網(wǎng)頁并對網(wǎng)頁中的每一個詞（即關(guān)鍵詞）進行索引，建立索引數(shù)據(jù)庫的全文搜索引擎。當(dāng)用戶查找某個關(guān)鍵詞的時候，所有在頁面內(nèi)容...
-
從輸入關(guān)鍵詞，到百度給出搜索結(jié)果的過程，往往僅需幾毫秒即可完成。百度是如何在浩如煙海的互聯(lián)網(wǎng)資源中，以如此之快的速度將您的網(wǎng)站內(nèi)容展現(xiàn)給用戶？這背后蘊藏著什么樣的工作流...
-
百度站長平臺Lee發(fā)布文章介紹了搜索引擎索引系統(tǒng)的大概工作流程。主要包括：Query串切詞分詞，查出含每個term的文檔集合，求交，網(wǎng)站過濾，按需進行最終排序。,西安網(wǎng)站建設(shè)推薦閱讀 百度...
-
先上圖來簡單看下搜索引擎的三板斧：數(shù)據(jù)搜集預(yù)處理【索引】排名。 數(shù)據(jù)搜集 即數(shù)據(jù)的搜集階段，將網(wǎng)頁從浩如瀚海的互聯(lián)網(wǎng)世界搜集到自己的數(shù)據(jù)庫中進行存儲。 1、抓取維護策略 面對大...
-
站長朋友們，今后定期都將在這里跟大家分享一些有關(guān)搜索引擎工作原理及網(wǎng)站運營相關(guān)的內(nèi)容，今天先簡單介紹一下關(guān)于搜索引擎抓取系統(tǒng)中有關(guān)抓取系統(tǒng)基本框架、抓取中涉及的網(wǎng)絡(luò)協(xié)議...
-
spider在抓取過程中面對著復(fù)雜的網(wǎng)絡(luò)環(huán)境，為了使系統(tǒng)可以抓取到盡可能多的有價值資源并保持系統(tǒng)及實際環(huán)境中頁面的一致性同時不給網(wǎng)站體驗造成壓力，會設(shè)計多種復(fù)雜的抓取策略。以下...
-
從輸入關(guān)鍵詞，到百度給出搜索結(jié)果的過程，往往僅需幾毫秒即可完成。百度是如何在浩如煙海的互聯(lián)網(wǎng)資源中，以如此之快的速度將您的網(wǎng)站內(nèi)容展現(xiàn)給用戶？這背后蘊藏著什么樣的工作流...
- 上一篇：搜索引擎原理簡單分析帶圖
- 下一篇：搜索引擎檢索系統(tǒng)概述