搜索引擎正在面臨的四大挑戰(zhàn)——之?dāng)?shù)據(jù)存儲及快速索引

二、海量數(shù)據(jù)存儲

一些大型網(wǎng)站單是一個網(wǎng)站就有百萬千萬個頁面，衡陽SEO可以想象網(wǎng)上所有網(wǎng)站的頁面加起來是一個什么數(shù)據(jù)量.搜索引擎蜘蛛抓取頁面后，還必須有效存儲這些數(shù)據(jù)，數(shù)據(jù)結(jié)構(gòu)必須合理，具備極高的擴展性，寫入及訪問速度要求也很高。

除了頁面數(shù)據(jù)，搜索引擎還需要存儲頁面之間的鏈接關(guān)系及大量歷史數(shù)據(jù)，這樣的數(shù)據(jù)量是用戶無法想象的，據(jù)說Google有幾十個數(shù)據(jù)中心，上百萬臺服務(wù)器.這樣大規(guī)模的數(shù)據(jù)存儲和訪問必然存在很多技術(shù)挑戰(zhàn)。

我們經(jīng)常在搜索結(jié)果中看到，排名會沒有明顯原因地上下波動，甚至可能刷新一下頁面，就看到不同的排名，有的時候網(wǎng)站數(shù)據(jù)也可能丟失。這些都可能與大規(guī)模數(shù)據(jù)存儲的技術(shù)難題有關(guān)。

三、索引處理快速有效，具可擴展性

搜索引擎將頁面數(shù)據(jù)抓取和存儲后，還要進行索引處理，包括鏈接關(guān)系的計算、正向索引、倒排索引等.由于數(shù)據(jù)庫中頁面數(shù)量大，進行PR之類的迭代計算也是耗時費力的。要想及時提供相關(guān)又及時的搜索結(jié)果，僅僅抓取沒有用，還必須進行大量索引計算。由于隨時都有新數(shù)據(jù)、新頁面加入，因此索引處理也要具備很好的擴展性。