百度搜索引擎抓取原理之抓取Spider建庫
  • 更新時(shí)間:2024-12-22 22:47:10
  • 網(wǎng)站優(yōu)化
  • 發(fā)布時(shí)間:5年前
  • 2743

?????? 互聯(lián)網(wǎng)信息爆發(fā)式增長(zhǎng),如何有效的獲取并利用這些信息是搜索引擎工作中的首要環(huán)節(jié)。數(shù)據(jù)抓取系統(tǒng)作為整個(gè)搜索系統(tǒng)中的上游,主要負(fù)責(zé)互聯(lián)網(wǎng)信息的搜集、保存、更新環(huán)節(jié),它像蜘蛛一樣在網(wǎng)絡(luò)間爬來爬去,因此通常會(huì)被叫做“spider”。例如我們常用的幾家通用搜索引擎蜘蛛被稱為:Baiduspdier、Googlebot、Sogou Web Spider等。
??????Spider抓取系統(tǒng)是搜索引擎數(shù)據(jù)來源的重要保證,如果把web理解為一個(gè)有向圖,那么spider的工作過程可以認(rèn)為是對(duì)這個(gè)有向圖的遍歷。從一些重要的種子 URL開始,通過頁面上的超鏈接關(guān)系,不斷的發(fā)現(xiàn)新URL并抓取,盡最大可能抓取到更多的有價(jià)值網(wǎng)頁。對(duì)于類似百度這樣的大型spider系統(tǒng),因?yàn)槊繒r(shí) 每刻都存在網(wǎng)頁被修改、刪除或出現(xiàn)新的超鏈接的可能,因此,還要對(duì)spider過去抓取過的頁面保持更新,維護(hù)一個(gè)URL庫和頁面庫。

??????下圖為spider抓取系統(tǒng)的基本框架圖,其中包括鏈接存儲(chǔ)系統(tǒng)、鏈接選取系統(tǒng)、dns解析服務(wù)系統(tǒng)、抓取調(diào)度系統(tǒng)、網(wǎng)頁分析系統(tǒng)、鏈接提取系統(tǒng)、鏈接分析系統(tǒng)、網(wǎng)頁存儲(chǔ)系統(tǒng)。Baiduspider即是通過這種系統(tǒng)的通力合作完成對(duì)互聯(lián)網(wǎng)頁面的抓取工作。

1.jpg

Baiduspider 主要抓取策略類型
??????上圖看似簡(jiǎn)單,但其實(shí)Baiduspider在抓取過程中面對(duì)的是一個(gè)超級(jí)復(fù)雜的網(wǎng)絡(luò)環(huán)境,為了使系統(tǒng)可以抓取到盡可能多的有價(jià)值資源并保持系統(tǒng)及實(shí)際環(huán)境中頁面的一致性同時(shí)不給網(wǎng)站體驗(yàn)造成壓力,會(huì)設(shè)計(jì)多種復(fù)雜的抓取策略。以下做簡(jiǎn)單介紹:
1、抓取友好性
??????互聯(lián)網(wǎng)資源龐大的數(shù)量級(jí),這就要求抓取系統(tǒng)盡可能的高效利用帶寬,在有限的硬件和帶寬資源下盡可能多的抓取到有價(jià)值資源。這就造成了另一個(gè)問題,耗費(fèi)被抓網(wǎng)站的帶寬造成訪問壓力,如果程度過大將直接影響被抓網(wǎng)站的正常用戶訪問行為。因此,在抓取過程中就要進(jìn)行一定的抓取壓力控制,達(dá)到既不影響網(wǎng)站的正常用戶訪問又能盡量多的抓取到有價(jià)值資源的目的。
??????通常情況下,最基本的是基于ip的壓力控制。這是因?yàn)槿绻谟蛎赡艽嬖谝粋€(gè)域名對(duì)多個(gè)ip(很多大網(wǎng)站)或多個(gè)域名對(duì)應(yīng)同一個(gè)ip(小網(wǎng)站共享ip)的問題。實(shí)際中,往往根據(jù)ip及域名的多種條件進(jìn)行壓力調(diào)配控制。同時(shí),站長(zhǎng)平臺(tái)也推出了壓力反饋工具,站長(zhǎng)可以人工調(diào)配對(duì)自己網(wǎng)站的抓取壓力,這時(shí)百度spider將優(yōu)先按照站長(zhǎng)的要求進(jìn)行抓取壓力控制。
??????對(duì)同一個(gè)站點(diǎn)的抓取速度控制一般分為兩類:其一,一段時(shí)間內(nèi)的抓取頻率;其二,一段時(shí)間內(nèi)的抓取流量。同一站點(diǎn)不同的時(shí)間抓取速度也會(huì)不同,例如夜深人靜月黑風(fēng)高時(shí)候抓取的可能就會(huì)快一些,也視具體站點(diǎn)類型而定,主要思想是錯(cuò)開正常用戶訪問高峰,不斷的調(diào)整。對(duì)于不同站點(diǎn),也需要不同的抓取速度。
2、常用抓取返回碼示意
??????簡(jiǎn)單介紹幾種百度支持的返回碼:
??????1、最常見的404代表“NOT FOUND”,認(rèn)為網(wǎng)頁已經(jīng)失效,通常將在庫中刪除,同時(shí)短期內(nèi)如果spider再次發(fā)現(xiàn)這條url也不會(huì)抓取;
??????2、503代表“Service Unavailable”,認(rèn)為網(wǎng)頁臨時(shí)不可訪問,通常網(wǎng)站臨時(shí)關(guān)閉,帶寬有限等會(huì)產(chǎn)生這種情況。對(duì)于網(wǎng)頁返回503狀態(tài)碼,百度spider不會(huì)把這條url直接刪除,同時(shí)短期內(nèi)將會(huì)反復(fù)訪問幾次,如果網(wǎng)頁已恢復(fù),則正常抓?。蝗绻^續(xù)返回503,那么這條url仍會(huì)被認(rèn)為是失效鏈接,從庫中刪除。
??????3、403代表“Forbidden”,認(rèn)為網(wǎng)頁目前禁止訪問。如果是新url,spider暫時(shí)不抓取,短期內(nèi)同樣會(huì)反復(fù)訪問幾次;如果是已收錄url,不會(huì)直接刪除,短期內(nèi)同樣反復(fù)訪問幾次。如果網(wǎng)頁正常訪問,則正常抓?。蝗绻匀唤乖L問,那么這條url也會(huì)被認(rèn)為是失效鏈接,從庫中刪除。
??????4、301代表是“Moved Permanently”,認(rèn)為網(wǎng)頁重定向至新url。當(dāng)遇到站點(diǎn)遷移、域名更換、站點(diǎn)改版的情況時(shí),我們推薦使用301返回碼,同時(shí)使用站長(zhǎng)平臺(tái)網(wǎng)站改版工具,以減少改版對(duì)網(wǎng)站流量造成的損失。
3、多種url重定向的識(shí)別
??????互聯(lián)網(wǎng)中一部分網(wǎng)頁因?yàn)楦鞣N各樣的原因存在url重定向狀態(tài),為了對(duì)這部分資源正常抓取,就要求spider對(duì)url重定向進(jìn)行識(shí)別判斷,同時(shí)防止作弊行為。重定向可分為三類:http 30x重定向、meta refresh重定向和js重定向。另外,百度也支持Canonical標(biāo)簽,在效果上可以認(rèn)為也是一種間接的重定向。
4、抓取優(yōu)先級(jí)調(diào)配
??????由于互聯(lián)網(wǎng)資源規(guī)模的巨大以及迅速的變化,對(duì)于搜索引擎來說全部抓取到并合理的更新保持一致性幾乎是不可能的事情,因此這就要求抓取系統(tǒng)設(shè)計(jì)一套合理的抓取優(yōu)先級(jí)調(diào)配策略。主要包括:深度優(yōu)先遍歷策略、寬度優(yōu)先遍歷策略、pr優(yōu)先策略、反鏈策略、社會(huì)化分享指導(dǎo)策略等等。每個(gè)策略各有優(yōu)劣,在實(shí)際情況中往往是多種策略結(jié)合使用以達(dá)到最優(yōu)的抓取效果。
5、重復(fù)url的過濾
??????spider在抓取過程中需要判斷一個(gè)頁面是否已經(jīng)抓取過了,如果還沒有抓取再進(jìn)行抓取網(wǎng)頁的行為并放在已抓取網(wǎng)址集合中。判斷是否已經(jīng)抓取其中涉及到最核心的是快速查找并對(duì)比,同時(shí)涉及到url歸一化識(shí)別,例如一個(gè)url中包含大量無效參數(shù)而實(shí)際是同一個(gè)頁面,這將視為同一個(gè)url來對(duì)待。
6、暗網(wǎng)數(shù)據(jù)的獲取
??????互聯(lián)網(wǎng)中存在著大量的搜索引擎暫時(shí)無法抓取到的數(shù)據(jù),被稱為暗網(wǎng)數(shù)據(jù)。一方面,很多網(wǎng)站的大量數(shù)據(jù)是存在于網(wǎng)絡(luò)數(shù)據(jù)庫中,spider難以采用抓取網(wǎng)頁的方式獲得完整內(nèi)容;另一方面,由于網(wǎng)絡(luò)環(huán)境、網(wǎng)站本身不符合規(guī)范、孤島等等問題,也會(huì)造成搜索引擎無法抓取。目前來說,對(duì)于暗網(wǎng)數(shù)據(jù)的獲取主要思路仍然是通過開放平臺(tái)采用數(shù)據(jù)提交的方式來解決,例如“百度站長(zhǎng)平臺(tái)”“百度開放平臺(tái)”等等。
7、抓取反作弊
??????spider在抓取過程中往往會(huì)遇到所謂抓取黑洞或者面臨大量低質(zhì)量頁面的困擾,這就要求抓取系統(tǒng)中同樣需要設(shè)計(jì)一套完善的抓取反作弊系統(tǒng)。例如分析url特征、分析頁面大小及內(nèi)容、分析站點(diǎn)規(guī)模對(duì)應(yīng)抓取規(guī)模等等。
Baiduspider抓取過程中涉及的網(wǎng)絡(luò)協(xié)議
??????剛才提到百度搜索引擎會(huì)設(shè)計(jì)復(fù)雜的抓取策略,其實(shí)搜索引擎與資源提供者之間存在相互依賴的關(guān)系,其中搜索引擎需要站長(zhǎng)為其提供資源,否則搜索引擎就無法滿足用戶檢索需求;而站長(zhǎng)需要通過搜索引擎將自己的 內(nèi)容推廣出去獲取更多的受眾。spider抓取系統(tǒng)直接涉及互聯(lián)網(wǎng)資源提供者的利益,為了使搜素引擎與站長(zhǎng)能夠達(dá)到雙贏,在抓取過程中雙方必須遵守一定的 規(guī)范,以便于雙方的數(shù)據(jù)處理及對(duì)接。這種過程中遵守的規(guī)范也就是日常中我們所說的一些網(wǎng)絡(luò)協(xié)議。
以下簡(jiǎn)單列舉:
??????http協(xié)議:超文本傳輸協(xié)議,是互聯(lián)網(wǎng)上應(yīng)用最為廣泛的一種網(wǎng)絡(luò)協(xié)議,客戶端和服務(wù)器端請(qǐng)求和應(yīng)答的標(biāo)準(zhǔn)??蛻舳艘话闱闆r是指終端用戶,服務(wù)器端即指網(wǎng) 站。終端用戶通過瀏覽器、蜘蛛等向服務(wù)器指定端口發(fā)送http請(qǐng)求。發(fā)送http請(qǐng)求會(huì)返回對(duì)應(yīng)的httpheader信息,可以看到包括是否成功、服務(wù) 器類型、網(wǎng)頁最近更新時(shí)間等內(nèi)容。
??????https協(xié)議:實(shí)際是加密版http,一種更加安全的數(shù)據(jù)傳輸協(xié)議。
??????UA屬性:UA即user-agent,是http協(xié)議中的一個(gè)屬性,代表了終端的身份,向服務(wù)器端表明我是誰來干嘛,進(jìn)而服務(wù)器端可以根據(jù)不同的身份來做出不同的反饋結(jié)果。
??????robots協(xié)議:robots.txt是搜索引擎訪問一個(gè)網(wǎng)站時(shí)要訪問的第一個(gè)文件,用以來確定哪些是被允許抓取的哪些是被禁止抓取的。robots.txt必須放在網(wǎng)站根目錄下,且文件名要小寫。詳細(xì)的robots.txt寫法可參考 http://www.robotstxt.org 。百度嚴(yán)格按照robots協(xié)議執(zhí)行,另外,同樣支持網(wǎng)頁內(nèi)容中添加的名為robots的meta標(biāo) 簽,index、follow、nofollow等指令。
Baiduspider抓取頻次原則及調(diào)整方法
??????Baiduspider根據(jù)上述網(wǎng)站設(shè)置的協(xié)議對(duì)站點(diǎn)頁面進(jìn)行抓取,但是不可能做到對(duì)所有站點(diǎn)一視同仁,會(huì)綜合考慮站點(diǎn)實(shí)際情況確定一個(gè)抓取配額,每天定量抓取站點(diǎn)內(nèi)容,即我們常說的抓取頻次。那么百度搜索引擎是根據(jù)什么指標(biāo)來確定對(duì)一個(gè)網(wǎng)站的抓取頻次的呢,主要指標(biāo)有四個(gè):
??????1、網(wǎng)站更新頻率:更新快多來,更新慢少來,直接影響B(tài)aiduspider的來訪頻率
??????2、網(wǎng)站更新質(zhì)量:更新頻率提高了,僅僅是吸引了Baiduspier的注意,Baiduspider對(duì)質(zhì)量是有嚴(yán)格要求的,如果網(wǎng)站每天更新出的大量?jī)?nèi)容都被Baiduspider判定為低質(zhì)頁面,依然沒有意義。
??????3、連通度:網(wǎng)站應(yīng)該安全穩(wěn)定、對(duì)Baiduspider保持暢通,經(jīng)常給Baiduspider吃閉門羹可不是好事情
??????4、站點(diǎn)評(píng)價(jià):百度搜索引擎對(duì)每個(gè)站點(diǎn)都會(huì)有一個(gè)評(píng)價(jià),且這個(gè)評(píng)價(jià)會(huì)根據(jù)站點(diǎn)情況不斷變化,是百度搜索引擎對(duì)站點(diǎn)的一個(gè)基礎(chǔ)打分(絕非外界所說的百度權(quán)重),是百度內(nèi)部一個(gè)非常機(jī)密的數(shù)據(jù)。站點(diǎn)評(píng)級(jí)從不獨(dú)立使用,會(huì)配合其它因子和閾值一起共同影響對(duì)網(wǎng)站的抓取和排序。
??????抓取頻次間接決定著網(wǎng)站有多少頁面有可能被建庫收錄,如此重要的數(shù)值如果不符合站長(zhǎng)預(yù)期該如何調(diào)整呢?百度站長(zhǎng)平臺(tái)提供了抓取頻次工具,并已完成多次升級(jí)。該工具除了提供抓取統(tǒng)計(jì)數(shù)據(jù)外,還提供“頻次調(diào)整”功能,站長(zhǎng)根據(jù)實(shí)際情況向百度站長(zhǎng)平臺(tái)提出希望Baiduspider增加來訪或減少來訪的請(qǐng)求,工具會(huì)根據(jù)站長(zhǎng)的意愿和實(shí)際情況進(jìn)行調(diào)整。
造成Baiduspider抓取異常的原因
??????有一些網(wǎng)頁,內(nèi)容優(yōu)質(zhì),用戶也可以正常訪問,但是Baiduspider卻無法正常訪問并抓取,造成搜索結(jié)果覆蓋率缺失,對(duì)百度搜索引擎對(duì)站點(diǎn)都是一種損失,百度把這種情況叫“抓取異?!?。對(duì)于大量?jī)?nèi)容無法正常抓取的網(wǎng)站,百度搜索引擎會(huì)認(rèn)為網(wǎng)站存在用戶體驗(yàn)上的缺陷,并降低對(duì)網(wǎng)站的評(píng)價(jià),在抓取、索引、排序上都會(huì)受到一定程度的負(fù)面影響,最終影響到網(wǎng)站從百度獲取的流量。
常見的抓取異常原因:
1、服務(wù)器連接異常
??????服務(wù)器連接異常會(huì)有兩種情況:一種是站點(diǎn)不穩(wěn)定,Baiduspider嘗試連接您網(wǎng)站的服務(wù)器時(shí)出現(xiàn)暫時(shí)無法連接的情況;一種是Baiduspider一直無法連接上您網(wǎng)站的服務(wù)器。
??????造成服務(wù)器連接異常的原因通常是您的網(wǎng)站服務(wù)器過大,超負(fù)荷運(yùn)轉(zhuǎn)。也有可能是您的網(wǎng)站運(yùn)行不正常,請(qǐng)檢查網(wǎng)站的web服務(wù)器(如apache、iis)是否安裝且正常運(yùn)行,并使用瀏覽器檢查主要頁面能否正常訪問。您的網(wǎng)站和主機(jī)還可能阻止了Baiduspider的訪問,您需要檢查網(wǎng)站和主機(jī)的防火墻。
2、網(wǎng)絡(luò)運(yùn)營商異常

??????網(wǎng)絡(luò)運(yùn)營商分電信和聯(lián)通兩種,Baiduspider通過電信或網(wǎng)通無法訪問您的網(wǎng)站。如果出現(xiàn)這種情況,您需要與網(wǎng)絡(luò)服務(wù)運(yùn)營商進(jìn)行聯(lián)系,或者購買擁有雙線服務(wù)的空間或者購買cdn服務(wù)。
3、DNS異常

??????當(dāng)Baiduspider無法解析您網(wǎng)站的IP時(shí),會(huì)出現(xiàn)DNS異常??赡苁悄木W(wǎng)站IP地址錯(cuò)誤,或者域名服務(wù)商把Baiduspider封禁。請(qǐng)使用WHOIS或者h(yuǎn)ost查詢自己網(wǎng)站IP地址是否正確且可解析,如果不正確或無法解析,請(qǐng)與域名注冊(cè)商聯(lián)系,更新您的IP地址。
4、IP封禁

??????IP封禁為:限制網(wǎng)絡(luò)的出口IP地址,禁止該IP段的使用者進(jìn)行內(nèi)容訪問,在這里特指封禁了BaiduspiderIP。當(dāng)您的網(wǎng)站不希望Baiduspider訪問時(shí),才需要該設(shè)置,如果您希望Baiduspider訪問您的網(wǎng)站,請(qǐng)檢查相關(guān)設(shè)置中是否誤添加了BaiduspiderIP。也有可能是您網(wǎng)站所在的空間服務(wù)商把百度IP進(jìn)行了封禁,這時(shí)您需要聯(lián)系服務(wù)商更改設(shè)置。
5、UA封禁

??????UA即為用戶代理(User-Agent),服務(wù)器通過UA識(shí)別訪問者的身份。當(dāng)網(wǎng)站針對(duì)指定UA的訪問,返回異常頁面(如403,500)或跳轉(zhuǎn)到其他頁面的情況,即為UA封禁。當(dāng)您的網(wǎng)站不希望Baiduspider訪問時(shí),才需要該設(shè)置,如果您希望Baiduspider訪問您的網(wǎng)站,useragent相關(guān)的設(shè)置中是否有Baiduspider UA,并及時(shí)修改。
6、死鏈

??????頁面已經(jīng)無效,無法對(duì)用戶提供任何有價(jià)值信息的頁面就是死鏈接,包括協(xié)議死鏈和內(nèi)容死鏈兩種形式:
??????協(xié)議死鏈:頁面的TCP協(xié)議狀態(tài)/HTTP協(xié)議狀態(tài)明確表示的死鏈,常見的如404、403、503狀態(tài)等。
??????內(nèi)容死鏈:服務(wù)器返回狀態(tài)是正常的,但內(nèi)容已經(jīng)變更為不存在、已刪除或需要權(quán)限等與原內(nèi)容無關(guān)的信息頁面。
??????對(duì)于死鏈,我們建議站點(diǎn)使用協(xié)議死鏈,并通過百度站長(zhǎng)平臺(tái)--死鏈工具向百度提交,以便百度更快地發(fā)現(xiàn)死鏈,減少死鏈對(duì)用戶以及搜索引擎造成的負(fù)面影響。
7、異常跳轉(zhuǎn)

將網(wǎng)絡(luò)請(qǐng)求重新指向其他位置即為跳轉(zhuǎn)。異常跳轉(zhuǎn)指的是以下幾種情況:
??????當(dāng)前該頁面為無效頁面(內(nèi)容已刪除、死鏈等),直接跳轉(zhuǎn)到前一目錄或者首頁,百度建議站長(zhǎng)將該無效頁面的入口超鏈接刪除掉
??????跳轉(zhuǎn)到出錯(cuò)或者無效頁面
注意:對(duì)于長(zhǎng)時(shí)間跳轉(zhuǎn)到其他域名的情況,如網(wǎng)站更換域名,百度建議使用301跳轉(zhuǎn)協(xié)議進(jìn)行設(shè)置。
8、其他異常:
??????針對(duì)百度refer的異常:網(wǎng)頁針對(duì)來自百度的refer返回不同于正常內(nèi)容的行為。
??????針對(duì)百度ua的異常:網(wǎng)頁對(duì)百度UA返回不同于頁面原內(nèi)容的行為。
??????JS跳轉(zhuǎn)異常:網(wǎng)頁加載了百度無法識(shí)別的JS跳轉(zhuǎn)代碼,使得用戶通過搜索結(jié)果進(jìn)入頁面后發(fā)生了跳轉(zhuǎn)的情況。
??????壓力過大引起的偶然封禁:百度會(huì)根據(jù)站點(diǎn)的規(guī)模、訪問量等信息,自動(dòng)設(shè)定一個(gè)合理的抓取壓力。但是在異常情況下,如壓力控制失常時(shí),服務(wù)器會(huì)根據(jù)自身負(fù)荷進(jìn)行保護(hù)性的偶然封禁。這種情況下,請(qǐng)?jiān)诜祷卮a中返回503(其含義是“Service Unavailable”),這樣Baiduspider會(huì)過段時(shí)間再來嘗試抓取這個(gè)鏈接,如果網(wǎng)站已空閑,則會(huì)被成功抓取。
新鏈接重要程度判斷
??????上面我們說了影響B(tài)aiduspider正常抓取的原因,下面就要說說Baiduspider的一些判斷原則了。在建庫環(huán)節(jié)前,Baiduspide會(huì)對(duì)頁面進(jìn)行初步內(nèi)容分析和鏈接分析,通過內(nèi)容分析決定該網(wǎng)頁是否需要建索引庫,通過鏈接分析發(fā)現(xiàn)更多網(wǎng)頁,再對(duì)更多網(wǎng)頁進(jìn)行抓取——分析——是否建庫&發(fā)現(xiàn)新鏈接的流程。理論上,Baiduspider會(huì)將新頁面上所有能“看到”的鏈接都抓取回來,那么面對(duì)眾多新鏈接,Baiduspider根據(jù)什么判斷哪個(gè)更重要呢??jī)煞矫妫?br>第一、對(duì)用戶的價(jià)值:
??????1、內(nèi)容獨(dú)特,百度搜索引擎喜歡unique的內(nèi)容
??????2、主體突出,切不要出現(xiàn)網(wǎng)頁主體內(nèi)容不突出而被搜索引擎誤判為空短頁面不抓取
??????3、內(nèi)容豐富
??????4、廣告適當(dāng)
第二、鏈接重要程度:
??????1、目錄層級(jí)——淺層優(yōu)先
??????2、鏈接在站內(nèi)的受歡迎程度
百度優(yōu)先建重要庫的原則
??????Baiduspider抓了多少頁面并不是最重要的,重要的是有多少頁面被建索引庫,即我們常說的“建庫”。眾所周知,搜索引擎的索引庫是分層級(jí)的,優(yōu)質(zhì)的網(wǎng)頁會(huì)被分配到重要索引庫,普通網(wǎng)頁會(huì)待在普通庫,再差一些的網(wǎng)頁會(huì)被分配到低級(jí)庫去當(dāng)補(bǔ)充材料。目前60%的檢索需求只調(diào)用重要索引庫即可滿足,這也就解釋了為什么有些網(wǎng)站的收錄量超高流量卻一直不理想。
那么,哪些網(wǎng)頁可以進(jìn)入優(yōu)質(zhì)索引庫呢。其實(shí)總的原則就是一個(gè):對(duì)用戶的價(jià)值。包括卻不僅于:
??????1、有時(shí)效性且有價(jià)值的頁面:在這里,時(shí)效性和價(jià)值是并列關(guān)系,缺一不可。有些站點(diǎn)為了產(chǎn)生時(shí)效性內(nèi)容頁面做了大量采集工作,產(chǎn)生了一堆無價(jià)值面頁,也是百度不愿看到的.
??????2、內(nèi)容優(yōu)質(zhì)的專題頁面:專題頁面的內(nèi)容不一定完全是原創(chuàng)的,即可以很好地把各方內(nèi)容整合在一起,或者增加一些新鮮的內(nèi)容,比如觀點(diǎn)和評(píng)論,給用戶更豐富全面的內(nèi)容。
??????3、高價(jià)值原創(chuàng)內(nèi)容頁面:百度把原創(chuàng)定義為花費(fèi)一定成本、大量經(jīng)驗(yàn)積累提取后形成的文章。千萬不要再問我們偽原創(chuàng)是不是原創(chuàng)。
??????4、重要個(gè)人頁面:這里僅舉一個(gè)例子,科比在新浪微博開戶了,需要他不經(jīng)常更新,但對(duì)于百度來說,它仍然是一個(gè)極重要的頁面。
哪些網(wǎng)頁無法建入索引庫
??????上述優(yōu)質(zhì)網(wǎng)頁進(jìn)了索引庫,那其實(shí)互聯(lián)網(wǎng)上大部分網(wǎng)站根本沒有被百度收錄。并非是百度沒有發(fā)現(xiàn)他們,而是在建庫前的篩選環(huán)節(jié)被過濾掉了。那怎樣的網(wǎng)頁在最初環(huán)節(jié)就被過濾掉了呢:
??????1、 重復(fù)內(nèi)容的網(wǎng)頁:互聯(lián)網(wǎng)上已有的內(nèi)容,百度必然沒有必要再收錄。
??????2、 主體內(nèi)容空短的網(wǎng)頁

我們專注高端建站,小程序開發(fā)、軟件系統(tǒng)定制開發(fā)、BUG修復(fù)、物聯(lián)網(wǎng)開發(fā)、各類API接口對(duì)接開發(fā)等。十余年開發(fā)經(jīng)驗(yàn),每一個(gè)項(xiàng)目承諾做到滿意為止,多一次對(duì)比,一定讓您多一份收獲!

本文章出于推來客官網(wǎng),轉(zhuǎn)載請(qǐng)表明原文地址:https://www.tlkjt.com/cdseo/457.html
推薦文章

在線客服

掃碼聯(lián)系客服

3985758

回到頂部