分布式存儲(chǔ)早是由谷歌提出的,其目的是通過(guò)廉價(jià)的服務(wù)器來(lái)提供使用與大規(guī)模,高并發(fā)場(chǎng)景下的Web訪問(wèn)問(wèn)題。它采用可擴(kuò)展的系統(tǒng)結(jié)構(gòu),利用多臺(tái)存儲(chǔ)服務(wù)器分擔(dān)存儲(chǔ)負(fù)荷,利用位置服務(wù)器定位存儲(chǔ)信息,它不但提高了系統(tǒng)的可靠性、可用性和存取效率,還易于擴(kuò)展。分布式存儲(chǔ)的興起與互聯(lián)網(wǎng)的發(fā)展密不可分,互聯(lián)網(wǎng)公司由于其數(shù)據(jù)量大而資本積累少,而通常都使用大規(guī)模分布式存儲(chǔ)系統(tǒng)。與傳統(tǒng)的高duan服務(wù)器、高duan存儲(chǔ)器和高duan處理器不同的是,互聯(lián)網(wǎng)公司的分布式存儲(chǔ)系統(tǒng)由數(shù)量眾多的、低成本和高性價(jià)比的普通PC服務(wù)器通過(guò)網(wǎng)絡(luò)連接而成。 可以從兩方面來(lái)理解分布式存儲(chǔ):用戶側(cè)和實(shí)現(xiàn)側(cè)。江蘇聯(lián)想分布式存儲(chǔ)系統(tǒng)架構(gòu) ...
正所謂長(zhǎng)江后浪推前浪,分布式存儲(chǔ)快速增長(zhǎng)是不可否認(rèn)的,這從各大廠商的業(yè)績(jī)報(bào)告和分析師報(bào)告就能看出來(lái),但想要把企業(yè)外置存儲(chǔ)這個(gè)前浪拍死在沙灘上還是步子邁太大,不現(xiàn)實(shí)。企業(yè)外置存儲(chǔ)在相當(dāng)長(zhǎng)的一段時(shí)間內(nèi),仍然是主流。它主要面向企業(yè)傳統(tǒng)應(yīng)用如ERP/CRM/HIS等,數(shù)據(jù)量不大但對(duì)可靠性、性能有極zhi要求,如銀行Core-Banking,從可靠性、生態(tài)層面,分布式存儲(chǔ)都不是比較好選擇。分布式存儲(chǔ)主要面向海量數(shù)據(jù)、新興業(yè)務(wù)場(chǎng)景,如HPC/EDA、大數(shù)據(jù),這類場(chǎng)景以二進(jìn)制文件、視頻、圖片等非結(jié)構(gòu)化數(shù)據(jù)為主,數(shù)據(jù)量極大。所以從場(chǎng)景來(lái)看,二者場(chǎng)景是有明確區(qū)隔的,按場(chǎng)景并存是比較好的選擇。 如何保證分布式...
無(wú)論如何波折,分布式存儲(chǔ)未來(lái)可期:正所謂不管白貓、黑貓,抓到老鼠的就是好貓。我們相信在較長(zhǎng)一段時(shí)間內(nèi),分布式存儲(chǔ)軟硬件一體和軟硬件解耦會(huì)長(zhǎng)期共存??傮w而言,筆者認(rèn)為隨著數(shù)據(jù)價(jià)值的增高,場(chǎng)景對(duì)數(shù)據(jù)可靠性的要求隨之會(huì)越來(lái)越嚴(yán)苛,市場(chǎng)的天平就會(huì)更多偏向軟硬件一體;與此相反,場(chǎng)景對(duì)數(shù)據(jù)可靠性的敏感度越低、短期成本敏感度越高,市場(chǎng)的天平就會(huì)更多的偏向軟硬件解耦。分布式存儲(chǔ)的發(fā)展歷程無(wú)論如何波折,我們更愿意相信它終會(huì)是部正劇,在整個(gè)存儲(chǔ)市場(chǎng)中占據(jù)海量數(shù)據(jù)承載的主力軍位置,鏗鏘而立,并給人以無(wú)窮回味!分布式存儲(chǔ)的由來(lái)、發(fā)展及未來(lái)市場(chǎng)前景。衢州大道云行分布式存儲(chǔ)原理 分布式存儲(chǔ)早是由谷歌提出的,其目的是通過(guò)...
說(shuō)到分布式存儲(chǔ),我們先來(lái)看一下傳統(tǒng)的存儲(chǔ)是怎么個(gè)樣子。傳統(tǒng)的存儲(chǔ)也稱為集中式存儲(chǔ),從概念上可以看出來(lái)是具有集中性的,也就是整個(gè)存儲(chǔ)是集中在一個(gè)系統(tǒng)中的,但集中式存儲(chǔ)并不是一個(gè)單獨(dú)的設(shè)備,是集中在一套系統(tǒng)當(dāng)中的多個(gè)設(shè)備,比如下圖中的EMC存儲(chǔ)就需要幾個(gè)機(jī)柜來(lái)存放。在這個(gè)存儲(chǔ)系統(tǒng)中包含很多組件,除了核xin的機(jī)頭(控制器)、磁盤陣列和交換機(jī)等設(shè)備外,還有管理設(shè)備等輔助設(shè)備。結(jié)構(gòu)中包含一個(gè)機(jī)頭,這個(gè)是存儲(chǔ)系統(tǒng)中為核xin的部件。通常在機(jī)頭中有包含兩個(gè)控制器,互為備用,避免硬件故障導(dǎo)致整個(gè)存儲(chǔ)系統(tǒng)的不可用。 分布式存儲(chǔ)是未來(lái)趨勢(shì)。浙江聯(lián)想分布式存儲(chǔ)的一般架構(gòu) 分布式存儲(chǔ)的種類和比較:分布式存儲(chǔ)包...
在整個(gè)結(jié)構(gòu)中,機(jī)頭中是整個(gè)分布式存儲(chǔ)系統(tǒng)的核xin部件,整個(gè)存儲(chǔ)系統(tǒng)的高級(jí)功能都在其中實(shí)現(xiàn)??刂破髦械能浖?shí)現(xiàn)對(duì)磁盤的管理,將磁盤抽象化為存儲(chǔ)資源池,然后劃分為L(zhǎng)UN提供給服務(wù)器使用。這里的LUN其實(shí)就是在服務(wù)器上看到的磁盤。當(dāng)然,一些集中式存儲(chǔ)本身也是文件服務(wù)器,可以提供共享文件服務(wù)。無(wú)論如何,從上面我們可以看出集中式存儲(chǔ)比較大的特點(diǎn)是有一個(gè)統(tǒng)一的入口,所有數(shù)據(jù)都要經(jīng)過(guò)這個(gè)入口,這個(gè)入口就是存儲(chǔ)系統(tǒng)的機(jī)頭。這也就是集中式存儲(chǔ)區(qū)別于分布式存儲(chǔ)明顯的特點(diǎn)。 分布式存儲(chǔ)在數(shù)據(jù)治理過(guò)程中的優(yōu)勢(shì)。鹽城視頻分布式存儲(chǔ)架構(gòu)實(shí)戰(zhàn)無(wú)論如何波折,分布式存儲(chǔ)未來(lái)可期:正所謂不管白貓、黑貓,抓到老鼠的就是好貓。...
分布式存儲(chǔ)在大數(shù)據(jù)環(huán)境下,數(shù)據(jù)規(guī)模和復(fù)雜度的增加往往非常迅速,對(duì)系統(tǒng)的擴(kuò)展性能要求較高。實(shí)現(xiàn)存儲(chǔ)系統(tǒng)的高可擴(kuò)展性首先要解決兩個(gè)方面的重要問(wèn)題,包含元數(shù)據(jù)的分配和數(shù)據(jù)的透明遷移。元數(shù)據(jù)的分配主要通過(guò)靜態(tài)子樹(shù)劃分技術(shù)實(shí)現(xiàn),后者則側(cè)重?cái)?shù)據(jù)遷移算法的優(yōu)化。此外,大數(shù)據(jù)存儲(chǔ)體系規(guī)模龐大.結(jié)點(diǎn)失效率高,因此還需要完成一定的自適應(yīng)管理功能。系統(tǒng)必須能夠根據(jù)數(shù)據(jù)量和計(jì)算的工作量估算所需要的結(jié)點(diǎn)個(gè)數(shù),并動(dòng)態(tài)地將數(shù)據(jù)在結(jié)點(diǎn)間遷移。以實(shí)現(xiàn)負(fù)載均衡;同時(shí).結(jié)點(diǎn)失效時(shí),數(shù)據(jù)必須可以通過(guò)副本等機(jī)制進(jìn)行恢復(fù),不能對(duì)上層應(yīng)用產(chǎn)生影響。 分布式存儲(chǔ)能夠?qū)崿F(xiàn)內(nèi)容感知,配合前端應(yīng)用對(duì)海量數(shù)據(jù)進(jìn)行大數(shù)據(jù)分析和價(jià)值挖掘。浙江魏晉元...
分布式存儲(chǔ)架構(gòu)由三個(gè)部分組成:客戶端、元數(shù)據(jù)服務(wù)器和數(shù)據(jù)服務(wù)器??蛻舳素?fù)責(zé)發(fā)送讀寫請(qǐng)求,緩存文件元數(shù)據(jù)和文件數(shù)據(jù)。元數(shù)據(jù)服務(wù)器負(fù)責(zé)管理元數(shù)據(jù)和處理客戶端的請(qǐng)求,是整個(gè)系統(tǒng)的核xin組件。數(shù)據(jù)服務(wù)器負(fù)責(zé)存放文件數(shù)據(jù),保證數(shù)據(jù)的可用性和完整性。該架構(gòu)的好處是性能和容量能夠同時(shí)拓展,系統(tǒng)規(guī)模具有很強(qiáng)的伸縮性。分布式存儲(chǔ)分為文件存儲(chǔ)、對(duì)象存儲(chǔ)和塊存儲(chǔ),但它們?nèi)N存儲(chǔ)方式的基本架構(gòu)都是大同小異的。即客戶端或應(yīng)用端、元數(shù)據(jù)(MDS)服務(wù)器和數(shù)據(jù)節(jié)點(diǎn)服務(wù)器??蛻舳撕驮獢?shù)據(jù)服務(wù)器之間交互是“信令交互”,而客戶端到數(shù)據(jù)節(jié)點(diǎn)是“媒體交互”。元數(shù)據(jù)服務(wù)器或通過(guò)數(shù)據(jù)節(jié)點(diǎn)服務(wù)器獲取各節(jié)點(diǎn)服務(wù)器的基本配置情況和狀態(tài)信...
在分布式存儲(chǔ)系統(tǒng)(包括OceanBase這樣的分布式數(shù)據(jù)庫(kù))的使用中,我們經(jīng)常會(huì)提到“一致性”這個(gè)詞,但是這個(gè)術(shù)語(yǔ)在不同的系統(tǒng)、不同人的心目中有不同的內(nèi)涵,很容易造成混淆。想象一個(gè)簡(jiǎn)單的存儲(chǔ)系統(tǒng),只有一個(gè)客戶端(單進(jìn)程)和一個(gè)服務(wù)端(單進(jìn)程服務(wù))??蛻舳隧樞虬l(fā)起讀寫操作,服務(wù)端也順序處理每個(gè)請(qǐng)求,那么無(wú)論從服務(wù)器視角還是從客戶端視角,后一個(gè)操作都可以看到前一個(gè)操作的結(jié)果。然后,系統(tǒng)變的復(fù)雜一些,系統(tǒng)還是單個(gè)服務(wù)進(jìn)程(單副本),但是有多個(gè)客戶端并發(fā)進(jìn)行操作。這個(gè)模型下,多個(gè)客戶端的操作會(huì)互相影響,比如一個(gè)客戶端會(huì)讀到不是自己寫的數(shù)據(jù)(另一個(gè)客戶端寫入的)。一般單機(jī)并發(fā)程序就是這樣的模...
實(shí)際上分布式存儲(chǔ),高性能與高可用是矛盾的,比如要設(shè)計(jì)一個(gè)分布式存儲(chǔ)系統(tǒng),出于對(duì)性能的考慮,記錄數(shù)據(jù)時(shí)先寫一個(gè)份數(shù)據(jù)到某個(gè)機(jī)器上并立即返回,然后異步發(fā)起多個(gè)數(shù)據(jù)備份過(guò)程(副本)。這種設(shè)計(jì)的性能比較好,但存在“容錯(cuò)性”的風(fēng)險(xiǎn),即寫完數(shù)據(jù)后,目標(biāo)機(jī)器立即發(fā)生故障,會(huì)導(dǎo)致數(shù)據(jù)丟失!如果同時(shí)寫多個(gè)副本,每個(gè)副本寫成功以后再返回,則又導(dǎo)致性能下降,因?yàn)檫@個(gè)過(guò)程取決于慢的那臺(tái)機(jī)器的性能。這就是高性能與高可用之間的矛盾。而要真正從根本上克服這些矛盾,解決分布式存儲(chǔ)的高性能和高可用問(wèn)題,更有效的是對(duì)于分布式文件系統(tǒng)和分布式存儲(chǔ)系統(tǒng)架構(gòu)進(jìn)行優(yōu)化和改進(jìn),從而從源頭解決這些問(wèn)題。 分布式存儲(chǔ)不得不要了解的幾大特點(diǎn)...
為了保證分布式存儲(chǔ)系統(tǒng)的高可靠和高可用,數(shù)據(jù)在系統(tǒng)中一般存儲(chǔ)多個(gè)副本。當(dāng)某個(gè)副本所在的存儲(chǔ)節(jié)點(diǎn)出現(xiàn)故障時(shí),分布式存儲(chǔ)系統(tǒng)能夠自動(dòng)將服務(wù)切換到其他的副本,從而實(shí)現(xiàn)自動(dòng)容錯(cuò)。分布式存儲(chǔ)系統(tǒng)通過(guò)復(fù)制協(xié)議將數(shù)據(jù)同步到多個(gè)存儲(chǔ)節(jié)點(diǎn),并確保多個(gè)副本之間的數(shù)據(jù)一致性??蛻舳藢懻?qǐng)求發(fā)送給主副本,主副本將寫請(qǐng)求復(fù)制到其他備副本,常見(jiàn)的做法是同步操作日志(CommitLog)。主副本首先將操作日志同步到備副本,備副本回放操作日志,完成后通知主副本。接著,主副本修改本機(jī),等到所有的操作都完成后再通知客戶端寫成功。下圖中的復(fù)制協(xié)議要求主備同步成功才可以返回客戶端寫成功,這種協(xié)議稱為強(qiáng)同步協(xié)議。 分布式存儲(chǔ)釋放了...
說(shuō)到分布式存儲(chǔ),我們先來(lái)看一下傳統(tǒng)的存儲(chǔ)是怎么個(gè)樣子。傳統(tǒng)的存儲(chǔ)也稱為集中式存儲(chǔ),從概念上可以看出來(lái)是具有集中性的,也就是整個(gè)存儲(chǔ)是集中在一個(gè)系統(tǒng)中的,但集中式存儲(chǔ)并不是一個(gè)單獨(dú)的設(shè)備,是集中在一套系統(tǒng)當(dāng)中的多個(gè)設(shè)備,比如下圖中的EMC存儲(chǔ)就需要幾個(gè)機(jī)柜來(lái)存放。在這個(gè)存儲(chǔ)系統(tǒng)中包含很多組件,除了核xin的機(jī)頭(控制器)、磁盤陣列和交換機(jī)等設(shè)備外,還有管理設(shè)備等輔助設(shè)備。結(jié)構(gòu)中包含一個(gè)機(jī)頭,這個(gè)是存儲(chǔ)系統(tǒng)中為核xin的部件。通常在機(jī)頭中有包含兩個(gè)控制器,互為備用,避免硬件故障導(dǎo)致整個(gè)存儲(chǔ)系統(tǒng)的不可用。 分布式存儲(chǔ)不得不要了解的幾大特點(diǎn)。杭州聯(lián)想分布式存儲(chǔ)原理 那么現(xiàn)在問(wèn)題來(lái)了,如果...
分布式存儲(chǔ)構(gòu)建存儲(chǔ)系統(tǒng)時(shí).需要基于成本和性能來(lái)考慮,因此存儲(chǔ)系統(tǒng)通常采用多層不同性價(jià)比的存儲(chǔ)器件組成存儲(chǔ)層次結(jié)構(gòu)。大數(shù)據(jù)的規(guī)模大,因此構(gòu)建高效合理的存儲(chǔ)層次結(jié)構(gòu),可以在保證系統(tǒng)性能的前提下,降低系統(tǒng)能耗和構(gòu)建成本,利用數(shù)據(jù)訪問(wèn)局部性原理.可以從兩個(gè)方面對(duì)存儲(chǔ)層次結(jié)構(gòu)進(jìn)行優(yōu)化。從提高性能的角度,可以通過(guò)分析應(yīng)用特征,識(shí)別熱點(diǎn)數(shù)據(jù)并對(duì)其進(jìn)行緩存或預(yù)取,通過(guò)高效的緩存預(yù)取算法和合理的緩存容量配比,以提高訪問(wèn)性能。從降低成本的角度,采用信息生命周期管理方法,將訪問(wèn)頻率低的冷數(shù)據(jù)遷移到低速廉價(jià)存儲(chǔ)設(shè)備上,可以在小幅犧sheng系統(tǒng)整體性能的基礎(chǔ)上,大幅降低系統(tǒng)的構(gòu)建成本和能耗。 分布式存儲(chǔ)是未來(lái)趨勢(shì)...
分布式存儲(chǔ)采用分布式的系統(tǒng)結(jié)構(gòu),將數(shù)據(jù)以切片式或粉碎式分散在多個(gè)du立存儲(chǔ)服務(wù)器。它不但提高了系統(tǒng)的可靠性、可用性和存取效率,還易于擴(kuò)展,將通用硬件引入的不穩(wěn)定因素降到比較低。優(yōu)點(diǎn)如下:1、高性能。2、支持分級(jí)存儲(chǔ)。3、多副本的一致性。4、容災(zāi)與備份。5、彈性擴(kuò)展。6、存儲(chǔ)系統(tǒng)標(biāo)準(zhǔn)化。隨著分布式存儲(chǔ)的發(fā)展,存儲(chǔ)行業(yè)的標(biāo)準(zhǔn)化進(jìn)程也不斷推進(jìn),分布式存儲(chǔ)優(yōu)先采用行業(yè)標(biāo)準(zhǔn)接口進(jìn)行存儲(chǔ)接入。在平臺(tái)層面,通過(guò)將異構(gòu)存儲(chǔ)資源進(jìn)行抽象化,將傳統(tǒng)的存儲(chǔ)設(shè)備級(jí)的操作封裝成面向存儲(chǔ)資源的操作,從而簡(jiǎn)化異構(gòu)存儲(chǔ)基礎(chǔ)架構(gòu)的操作,以實(shí)現(xiàn)存儲(chǔ)資源的集中管理,并能夠自動(dòng)執(zhí)行創(chuàng)建、變更、回收等整個(gè)存儲(chǔ)生命周期流程,...
分布式存儲(chǔ)系統(tǒng)中還可能使用基于寫多個(gè)存儲(chǔ)節(jié)點(diǎn)的復(fù)制協(xié)議(Replicated-writeprotocol)。比如Dynamo系統(tǒng)中的NWR復(fù)制協(xié)議,其中,N為副本數(shù)量,W為寫操作的副本數(shù),R為讀操作的副本數(shù)。NWR協(xié)議中多個(gè)副本不再區(qū)分主和備,客戶端根據(jù)一定的策略往其中的W個(gè)副本寫入數(shù)據(jù),讀取其中的R個(gè)副本。只要W+R>N,可以保證讀到的副本中至少有一個(gè)包含了的更新。然而,這種協(xié)議的問(wèn)題在于不同副本的操作順序可能不一致,從多個(gè)副本讀取時(shí)可能出現(xiàn)。這種方式在實(shí)際系統(tǒng)中比較少見(jiàn),不建議使用。 五大主流分布式存儲(chǔ)技術(shù)對(duì)比分析,你 pick 哪一種?浙江大道云行分布式存儲(chǔ)系統(tǒng)原理解析 C...
開(kāi)源分布式存儲(chǔ)軟件的出現(xiàn),一定程度上降低了存儲(chǔ)的門檻,小公司可快速包裝出存儲(chǔ)產(chǎn)品,帶動(dòng)服務(wù)器銷售。但產(chǎn)品同質(zhì)化問(wèn)題是所有開(kāi)源不得不面臨的問(wèn)題,由于架構(gòu)限制,很難在不動(dòng)架構(gòu)的情況下,真正做出差異化競(jìng)爭(zhēng)力。互聯(lián)網(wǎng)類公司、部分科研機(jī)構(gòu),以及有技術(shù)情結(jié)和充足資金投入的客戶可能選擇開(kāi)源,而對(duì)于金融、電信運(yùn)營(yíng)商、大企業(yè)商用HPC、有關(guān)部門等對(duì)可靠性、性能、安全合規(guī)有要求的企業(yè),開(kāi)源從來(lái)不是第yi選擇,因?yàn)閿?shù)據(jù)太重要了。(聽(tīng)說(shuō),國(guó)內(nèi)某知ming銀行曾經(jīng)投入500人基于開(kāi)源軟件搭建分布式存儲(chǔ),投入巨大且無(wú)法達(dá)銀行業(yè)務(wù)對(duì)性能、可靠性、易運(yùn)維訴求,終于2年后放棄。) 分布式存儲(chǔ)不僅是存儲(chǔ),而是下一代互聯(lián)網(wǎng)。舟...
自誕生以來(lái),分布式存儲(chǔ)就被視為存儲(chǔ)的未來(lái),被萬(wàn)眾期待。然而分布式存儲(chǔ)起步于寒門,早應(yīng)用于互聯(lián)網(wǎng)日志、企業(yè)備份歸檔、開(kāi)發(fā)測(cè)試等場(chǎng)景,追求極zhi成本,性能和可靠性卻不敢恭維。但它還算爭(zhēng)氣,憑借多年的打怪練級(jí),越來(lái)越多地開(kāi)始承載自動(dòng)駕駛研發(fā)、超高清編輯、運(yùn)營(yíng)商5G網(wǎng)絡(luò)云等企業(yè)的關(guān)鍵業(yè)務(wù),走上變成高富帥、贏取白富美的道路。正所謂人紅是非多,存儲(chǔ)領(lǐng)域也是一樣,坊間一直流傳著關(guān)于分布式存儲(chǔ)的各種流言蜚語(yǔ)。好事的筆者現(xiàn)今就來(lái)探尋一番,揭開(kāi)謊言背后的真相。 分布式存儲(chǔ)會(huì)一統(tǒng)存儲(chǔ)市場(chǎng)嗎?連云港視頻分布式存儲(chǔ)的一般架構(gòu) 與傳統(tǒng)的存儲(chǔ)架構(gòu)使用RAID模式來(lái)保證數(shù)據(jù)的可靠性不同,分布式存儲(chǔ)采用了多副本備份機(jī)制...
分布式存儲(chǔ)早是由谷歌提出的,其目的是通過(guò)廉價(jià)的服務(wù)器來(lái)提供使用與大規(guī)模,高并發(fā)場(chǎng)景下的Web訪問(wèn)問(wèn)題。它采用可擴(kuò)展的系統(tǒng)結(jié)構(gòu),利用多臺(tái)存儲(chǔ)服務(wù)器分擔(dān)存儲(chǔ)負(fù)荷,利用位置服務(wù)器定位存儲(chǔ)信息,它不但提高了系統(tǒng)的可靠性、可用性和存取效率,還易于擴(kuò)展。分布式存儲(chǔ)的興起與互聯(lián)網(wǎng)的發(fā)展密不可分,互聯(lián)網(wǎng)公司由于其數(shù)據(jù)量大而資本積累少,而通常都使用大規(guī)模分布式存儲(chǔ)系統(tǒng)。與傳統(tǒng)的高duan服務(wù)器、高duan存儲(chǔ)器和高duan處理器不同的是,互聯(lián)網(wǎng)公司的分布式存儲(chǔ)系統(tǒng)由數(shù)量眾多的、低成本和高性價(jià)比的普通PC服務(wù)器通過(guò)網(wǎng)絡(luò)連接而成。 超大規(guī)模時(shí)空數(shù)據(jù)的分布式存儲(chǔ)與應(yīng)用。蕪湖視頻分布式存儲(chǔ)系統(tǒng)原理 分布式存儲(chǔ)分為...
面對(duì)海量數(shù)據(jù)的存儲(chǔ)需求,分布式存儲(chǔ)顯然在架構(gòu)上有著天然優(yōu)勢(shì),但在這波數(shù)據(jù)洪流之中也面臨著性能上的全新挑戰(zhàn)。于分布式存儲(chǔ)的工作原理是將各個(gè)存儲(chǔ)節(jié)點(diǎn)使用網(wǎng)絡(luò)互聯(lián)的方式構(gòu)建為集群,向外部提供更加可靠的高性能服務(wù),因此可以說(shuō)分布式存儲(chǔ)本質(zhì)上是一種網(wǎng)絡(luò)存儲(chǔ),其性能在很大程度上受網(wǎng)絡(luò)的影響。在高性能的分布式存儲(chǔ)中,使用傳統(tǒng)的TCP網(wǎng)絡(luò)進(jìn)行各存儲(chǔ)節(jié)點(diǎn)之間的網(wǎng)絡(luò)互聯(lián)很容易形成網(wǎng)絡(luò)瓶頸,而在分布式存儲(chǔ)容易讓用戶詬病的IO延時(shí)方面,網(wǎng)絡(luò)部分的開(kāi)銷是不可忽視的一部分。 小編帶你了解分布式存儲(chǔ)的好處。浙江全閃塊分布式存儲(chǔ)原理 由于異常的存在,分布式存儲(chǔ)系統(tǒng)設(shè)計(jì)時(shí)往往會(huì)將數(shù)據(jù)冗余存儲(chǔ)多份,每一份稱為一個(gè)副...
分布式存儲(chǔ)在大數(shù)據(jù)環(huán)境下,元數(shù)據(jù)的體量也非常大,元數(shù)據(jù)的存取性能是整個(gè)分布式文件系統(tǒng)性能的關(guān)鍵。常見(jiàn)的元數(shù)據(jù)管理可以分為集中式和分布式元數(shù)據(jù)管理架構(gòu)。集中式元數(shù)據(jù)管理架構(gòu)采用單一的元數(shù)據(jù)服務(wù)器,實(shí)現(xiàn)簡(jiǎn)單.但是存在單點(diǎn)故障等問(wèn)題。分布式元數(shù)據(jù)管理架構(gòu)則將元數(shù)據(jù)分散在多個(gè)結(jié)點(diǎn)上.進(jìn)而解決了元數(shù)據(jù)服務(wù)器的性能瓶頸等問(wèn)題.并提高了元數(shù)據(jù)管理架構(gòu)的可擴(kuò)展性,但實(shí)現(xiàn)較為復(fù)雜,并引入了元數(shù)據(jù)一致性的問(wèn)題。另外,還有一種無(wú)元數(shù)據(jù)服務(wù)器的分布式架構(gòu),通過(guò)在線算法組織數(shù)據(jù),不需要專yong的元數(shù)據(jù)服務(wù)器。但是該架構(gòu)對(duì)數(shù)據(jù)一致性的保障很困難.實(shí)現(xiàn)較為復(fù)雜。文件目錄遍歷操作效率低下,并且缺乏文件系統(tǒng)全局監(jiān)控管理功...
分布式存儲(chǔ)系統(tǒng)中的多臺(tái)服務(wù)器通過(guò)網(wǎng)絡(luò)進(jìn)行連接。但是我們無(wú)法保證網(wǎng)絡(luò)是一直通暢的,分布式系統(tǒng)需要具有一定的容錯(cuò)性來(lái)處理網(wǎng)絡(luò)故障帶來(lái)的問(wèn)題。一個(gè)令人滿意的情況是,當(dāng)一個(gè)網(wǎng)絡(luò)因?yàn)楣收隙纸鉃槎鄠€(gè)部分的時(shí)候,分布式存儲(chǔ)系統(tǒng)仍然能夠工作。分布式存儲(chǔ)系統(tǒng)需要使用多臺(tái)服務(wù)器共同存儲(chǔ)數(shù)據(jù),而隨著服務(wù)器數(shù)量的增加,服務(wù)器出現(xiàn)故障的概率也在不斷增加。為了保證在有服務(wù)器出現(xiàn)故障的情況下系統(tǒng)仍然可用。一般做法是把一個(gè)數(shù)據(jù)分成多份存儲(chǔ)在不同的服務(wù)器中。但是由于故障和并行存儲(chǔ)等情況的存在,同一個(gè)數(shù)據(jù)的多個(gè)副本之間可能存在不一致的情況。這里稱保證多個(gè)副本的數(shù)據(jù)完全一致的性質(zhì)為一致性。 分布式存儲(chǔ)的由來(lái)、發(fā)展及未來(lái)市場(chǎng)前...
與傳統(tǒng)的存儲(chǔ)架構(gòu)使用RAID模式來(lái)保證數(shù)據(jù)的可靠性不同,分布式存儲(chǔ)采用了多副本備份機(jī)制。在存儲(chǔ)數(shù)據(jù)之前,分布式存儲(chǔ)對(duì)數(shù)據(jù)進(jìn)行了分片,分片后的數(shù)據(jù)按照一定的規(guī)則保存在集群節(jié)點(diǎn)上。為了保證多個(gè)數(shù)據(jù)副本之間的一致性,分布式存儲(chǔ)通常采用的是一個(gè)副本寫入,多個(gè)副本讀取的強(qiáng)一致性技術(shù),使用鏡像、條帶、分布式校驗(yàn)等方式滿足租戶對(duì)于可靠性不同的需求。在讀取數(shù)據(jù)失敗的時(shí)候,系統(tǒng)可以通過(guò)從其他副本讀取數(shù)據(jù),重新寫入該副本進(jìn)行恢復(fù),從而保證副本的總數(shù)固定。當(dāng)數(shù)據(jù)長(zhǎng)時(shí)間處于不一致?tīng)顟B(tài)時(shí),系統(tǒng)會(huì)自動(dòng)數(shù)據(jù)重建恢復(fù),同時(shí)租戶可設(shè)定數(shù)據(jù)恢復(fù)的帶寬規(guī)則,小化對(duì)業(yè)務(wù)的影響。 分布式存儲(chǔ)在數(shù)據(jù)治理過(guò)程中的定位。蘇州分布式存儲(chǔ) ...
自誕生以來(lái),分布式存儲(chǔ)就被視為存儲(chǔ)的未來(lái),被萬(wàn)眾期待。然而分布式存儲(chǔ)起步于寒門,早應(yīng)用于互聯(lián)網(wǎng)日志、企業(yè)備份歸檔、開(kāi)發(fā)測(cè)試等場(chǎng)景,追求極zhi成本,性能和可靠性卻不敢恭維。但它還算爭(zhēng)氣,憑借多年的打怪練級(jí),越來(lái)越多地開(kāi)始承載自動(dòng)駕駛研發(fā)、超高清編輯、運(yùn)營(yíng)商5G網(wǎng)絡(luò)云等企業(yè)的關(guān)鍵業(yè)務(wù),走上變成高富帥、贏取白富美的道路。正所謂人紅是非多,存儲(chǔ)領(lǐng)域也是一樣,坊間一直流傳著關(guān)于分布式存儲(chǔ)的各種流言蜚語(yǔ)。好事的筆者現(xiàn)今就來(lái)探尋一番,揭開(kāi)謊言背后的真相。 分布式存儲(chǔ)能夠?qū)崿F(xiàn)內(nèi)容感知,配合前端應(yīng)用對(duì)海量數(shù)據(jù)進(jìn)行大數(shù)據(jù)分析和價(jià)值挖掘。臺(tái)州什么是分布式存儲(chǔ)設(shè)備 分布式存儲(chǔ)系統(tǒng),是將數(shù)據(jù)分散存儲(chǔ)在多...
分布式存儲(chǔ)分為文件存儲(chǔ)、對(duì)象存儲(chǔ)和塊存儲(chǔ),但它們?nèi)N存儲(chǔ)方式的基本架構(gòu)都是大同小異的。即客戶端或應(yīng)用端、元數(shù)據(jù)(MDS)服務(wù)器和數(shù)據(jù)節(jié)點(diǎn)服務(wù)器??蛻舳撕驮獢?shù)據(jù)服務(wù)器之間交互是“信令交互”,而客戶端到數(shù)據(jù)節(jié)點(diǎn)是“媒體交互”。元數(shù)據(jù)服務(wù)器或通過(guò)數(shù)據(jù)節(jié)點(diǎn)服務(wù)器獲取各節(jié)點(diǎn)服務(wù)器的基本配置情況和狀態(tài)信息。比如,客戶端需要讀取某一個(gè)文件的信息,客戶端會(huì)將相應(yīng)的要求發(fā)給元數(shù)據(jù)服務(wù)器:“喂!我需要XXX,存在哪里了”,元數(shù)據(jù)服務(wù)器查詢后回答“你到xxx服務(wù)器的xxx地址+xxx服務(wù)器的xxx地址取”??蛻舳四玫竭@個(gè)指示后,向這2臺(tái)服務(wù)器發(fā)出指令,數(shù)據(jù)節(jié)點(diǎn)獲得指令后,將相應(yīng)的數(shù)據(jù)返回給客戶端。 五大主流分布...
分布式存儲(chǔ)的重要性:從單機(jī)單用戶到單機(jī)多用戶,再到現(xiàn)在的網(wǎng)絡(luò)時(shí)代,應(yīng)用系統(tǒng)發(fā)生了很多的變化。而分布式系統(tǒng)依然是目前很熱門的討論話題,那么,分布式系統(tǒng)給我們帶來(lái)了什么,或者說(shuō)是為什么要有分布式系統(tǒng)呢?(1)升級(jí)單機(jī)處理能力的性價(jià)比越來(lái)越低;企業(yè)發(fā)現(xiàn)通過(guò)更換硬件做垂直擴(kuò)展的方式來(lái)提升性能會(huì)越來(lái)越不劃算;(2)單機(jī)處理能力存在瓶頸;某個(gè)固定時(shí)間點(diǎn),單顆處理器有自己的性能瓶頸,也就說(shuō)即使愿意花更多的錢去買計(jì)算能力也買不到了;(3)出于穩(wěn)定性和可用性的考慮如果采用單擊系統(tǒng),那么在這臺(tái)機(jī)器正常的時(shí)候一切OK,一旦出問(wèn)題,那么系統(tǒng)就完全不能用了。當(dāng)然,可以考慮做容災(zāi)備份等方案,而這些方案就會(huì)讓系...
目測(cè)分布式存儲(chǔ)領(lǐng)域有兩個(gè)派系,一派是SDS(軟件定義存儲(chǔ)),一派是軟硬一體。前者以vSAN、Ceph為代biao,以軟件廠商為主在推廣。分布式存儲(chǔ)軟件+通用服務(wù)器組合,打著重定義存儲(chǔ)市場(chǎng)的旗幟,頗有“有王侯將相寧有種乎”的氣勢(shì);另一派是存儲(chǔ)老牌存儲(chǔ)玩家的產(chǎn)品,他們以軟硬一體為主,如Isilon、HCP等。誰(shuí)主沉浮很難判斷,不過(guò)我們不妨從產(chǎn)業(yè)動(dòng)態(tài)窺見(jiàn)一斑。雖然用過(guò)的客戶都詬病分布式存儲(chǔ)軟件+服務(wù)器的方式存在各種兼容性、可靠性、可維護(hù)性的問(wèn)題,但筆者認(rèn)為SDS這種模式會(huì)長(zhǎng)期存在,尤其是在傳統(tǒng)的低端領(lǐng)域,如備份歸檔、開(kāi)發(fā)測(cè)試環(huán)境。而越往高duan走,軟硬一體越是占據(jù)主流。業(yè)界主流廠商也在持續(xù)推出...
分布式存儲(chǔ)系統(tǒng)中還可能使用基于寫多個(gè)存儲(chǔ)節(jié)點(diǎn)的復(fù)制協(xié)議(Replicated-writeprotocol)。比如Dynamo系統(tǒng)中的NWR復(fù)制協(xié)議,其中,N為副本數(shù)量,W為寫操作的副本數(shù),R為讀操作的副本數(shù)。NWR協(xié)議中多個(gè)副本不再區(qū)分主和備,客戶端根據(jù)一定的策略往其中的W個(gè)副本寫入數(shù)據(jù),讀取其中的R個(gè)副本。只要W+R>N,可以保證讀到的副本中至少有一個(gè)包含了的更新。然而,這種協(xié)議的問(wèn)題在于不同副本的操作順序可能不一致,從多個(gè)副本讀取時(shí)可能出現(xiàn)。這種方式在實(shí)際系統(tǒng)中比較少見(jiàn),不建議使用。 分布式存儲(chǔ)系統(tǒng)需要多臺(tái)服務(wù)器同時(shí)工作。宿遷集中式分布式存儲(chǔ)有哪些 在分布式存儲(chǔ)系統(tǒng)(包括Oc...
自誕生以來(lái),分布式存儲(chǔ)就被視為存儲(chǔ)的未來(lái),被萬(wàn)眾期待。然而分布式存儲(chǔ)起步于寒門,早應(yīng)用于互聯(lián)網(wǎng)日志、企業(yè)備份歸檔、開(kāi)發(fā)測(cè)試等場(chǎng)景,追求極zhi成本,性能和可靠性卻不敢恭維。但它還算爭(zhēng)氣,憑借多年的打怪練級(jí),越來(lái)越多地開(kāi)始承載自動(dòng)駕駛研發(fā)、超高清編輯、運(yùn)營(yíng)商5G網(wǎng)絡(luò)云等企業(yè)的關(guān)鍵業(yè)務(wù),走上變成高富帥、贏取白富美的道路。正所謂人紅是非多,存儲(chǔ)領(lǐng)域也是一樣,坊間一直流傳著關(guān)于分布式存儲(chǔ)的各種流言蜚語(yǔ)。好事的筆者現(xiàn)今就來(lái)探尋一番,揭開(kāi)謊言背后的真相。 分布式存儲(chǔ)系統(tǒng)需要多臺(tái)服務(wù)器同時(shí)工作。臺(tái)州集中式分布式存儲(chǔ)哪家好 軟硬件解耦的分布式存儲(chǔ)在性能設(shè)計(jì)上存在兩大天然缺陷:標(biāo)準(zhǔn)服務(wù)器不具備機(jī)房...
分布式云閃塊存儲(chǔ)系統(tǒng)將具有本地存儲(chǔ)資源的標(biāo)準(zhǔn)服務(wù)器硬件,用高速網(wǎng)絡(luò)連接,并通過(guò)分布式軟件,聚合多個(gè)物理機(jī)上的存儲(chǔ)空間并對(duì)外提供具有大帶寬、并行I/O、水平擴(kuò)展、容錯(cuò)以及強(qiáng)一致性的數(shù)據(jù)存儲(chǔ)系統(tǒng),魏晉元興智能科技做為大道云行總代理,提供全國(guó)行業(yè)的分布式全閃塊存儲(chǔ)備份系統(tǒng)解決方案。分布式云閃塊存儲(chǔ)系統(tǒng)將具有本地存儲(chǔ)資源的標(biāo)準(zhǔn)服務(wù)器硬件,用高速網(wǎng)絡(luò)連接,并通過(guò)分布式軟件,聚合多個(gè)物理機(jī)上的存儲(chǔ)空間并對(duì)外提供具有大帶寬、并行I/O、水平擴(kuò)展、容錯(cuò)以及強(qiáng)一致性的數(shù)據(jù)存儲(chǔ)系統(tǒng),魏晉元興智能科技做為大道云行總代理,提供全國(guó)行業(yè)的分布式全閃塊存儲(chǔ)備份系統(tǒng)解決方案。分布式云閃塊存儲(chǔ)系統(tǒng)將具有本地存儲(chǔ)資源的標(biāo)準(zhǔn)...
如何保證分布式存儲(chǔ)的高性能與高可用?大家可能想到的是,除了傳統(tǒng)架構(gòu)里面的備份、HotStandby、雙活、多活這種架構(gòu)之外,對(duì)于保證分布式存儲(chǔ)系統(tǒng)的高可靠和高可用,數(shù)據(jù)在系統(tǒng)中一般存儲(chǔ)多個(gè)副本。當(dāng)某個(gè)存儲(chǔ)節(jié)點(diǎn)出故障時(shí),系統(tǒng)能夠自動(dòng)將服務(wù)切換到其他的副本,從而實(shí)現(xiàn)自動(dòng)容錯(cuò)。分布式存儲(chǔ)系統(tǒng)通過(guò)復(fù)制協(xié)議將數(shù)據(jù)同步到多個(gè)存儲(chǔ)節(jié)點(diǎn),并確保多個(gè)副本之間的數(shù)據(jù)一致性。同一份數(shù)據(jù)有多個(gè)副本,只有一個(gè)為主副本Primary,其他的副本為備份副本Backup,數(shù)據(jù)從主副本復(fù)制到備份副本,采用終一致性來(lái)保證數(shù)據(jù)和事物的完整。 分布式存儲(chǔ)能夠?qū)崿F(xiàn)內(nèi)容感知,配合前端應(yīng)用對(duì)海量數(shù)據(jù)進(jìn)行大數(shù)據(jù)分析和價(jià)值挖掘。湖州數(shù)據(jù)分...
分布式存儲(chǔ)采用分布式的系統(tǒng)結(jié)構(gòu),將數(shù)據(jù)以切片式或粉碎式分散在多個(gè)du立存儲(chǔ)服務(wù)器。它不但提高了系統(tǒng)的可靠性、可用性和存取效率,還易于擴(kuò)展,將通用硬件引入的不穩(wěn)定因素降到比較低。優(yōu)點(diǎn)如下:1、高性能。2、支持分級(jí)存儲(chǔ)。3、多副本的一致性。4、容災(zāi)與備份。5、彈性擴(kuò)展。6、存儲(chǔ)系統(tǒng)標(biāo)準(zhǔn)化。隨著分布式存儲(chǔ)的發(fā)展,存儲(chǔ)行業(yè)的標(biāo)準(zhǔn)化進(jìn)程也不斷推進(jìn),分布式存儲(chǔ)優(yōu)先采用行業(yè)標(biāo)準(zhǔn)接口進(jìn)行存儲(chǔ)接入。在平臺(tái)層面,通過(guò)將異構(gòu)存儲(chǔ)資源進(jìn)行抽象化,將傳統(tǒng)的存儲(chǔ)設(shè)備級(jí)的操作封裝成面向存儲(chǔ)資源的操作,從而簡(jiǎn)化異構(gòu)存儲(chǔ)基礎(chǔ)架構(gòu)的操作,以實(shí)現(xiàn)存儲(chǔ)資源的集中管理,并能夠自動(dòng)執(zhí)行創(chuàng)建、變更、回收等整個(gè)存儲(chǔ)生命周期流程,...