存儲層級內(nèi)的優(yōu)化技術(shù):構(gòu)建存儲系統(tǒng)時.需要基于成本和性能來考慮,因此存儲系統(tǒng)通常采用多層不同性價比的存儲器件組成存儲層次結(jié)構(gòu)。大數(shù)據(jù)的規(guī)模大,因此構(gòu)建高效合理的存儲層次結(jié)構(gòu),可以在保證系統(tǒng)性能的前提下,降低系統(tǒng)能耗和構(gòu)建成本,利用數(shù)據(jù)訪問局部性原理.可以從兩個方面對存儲層次結(jié)構(gòu)進(jìn)行優(yōu)化。從提高性能的角度,可以通過分析應(yīng)用特征,識別熱點(diǎn)數(shù)據(jù)并對其進(jìn)行緩存或預(yù)取,通過高效的緩存預(yù)取算法和合理的緩存容量配比,以提高訪問性能。從降低成本的角度,采用信息生命周期管理方法,將訪問頻率低的冷數(shù)據(jù)遷移到低速廉價存儲設(shè)備上,可以在小幅系統(tǒng)整體性能的基礎(chǔ)上,大幅降低系統(tǒng)的構(gòu)建成本和能耗。分布式存儲系統(tǒng),是將數(shù)據(jù)分...
在分布式系統(tǒng)中,分區(qū)可容忍性總是要滿足的,因此一致性和可用性不能同時滿足。存儲系統(tǒng)設(shè)計(jì)時需要在一致性和可用性之間權(quán)衡,在某些場景下,不允許丟失數(shù)據(jù),在另外一些場景下,極小的概率丟失部分?jǐn)?shù)據(jù)是允許的,可用性更加重要。隨著集群規(guī)模越來越大,故障發(fā)生的概率也越來越大了,大規(guī)模集群每天都有故障發(fā)生。容錯是分布式存儲系統(tǒng)涉及的重要目標(biāo),只有實(shí)現(xiàn)了自動化容錯,才能減少人工運(yùn)維成本,實(shí)現(xiàn)分布式存儲的規(guī)模效應(yīng)。首先,分布式存儲系統(tǒng)需要能夠檢測到機(jī)器故障。接著,需要能夠?qū)⒎?wù)復(fù)制或者遷移到集群中的其他正常服務(wù)的存儲節(jié)點(diǎn)。分布式存儲領(lǐng)域有兩個派系,一派是SDS(軟件定義存儲),一派是軟硬一體。鄭州企業(yè)分布式存儲系...
傳統(tǒng)數(shù)據(jù)存儲模型需要支持盡可能多的應(yīng)用,因此需要具備較好的通用性。大數(shù)據(jù)具有大規(guī)模、高動態(tài)及快速處理等特性,通用的數(shù)據(jù)存儲模型通常并不是較能提高應(yīng)用性能的模型.而大數(shù)據(jù)存儲系統(tǒng)對上層應(yīng)用性能的關(guān)注遠(yuǎn)遠(yuǎn)超過對通用性的追求。針對應(yīng)用和負(fù)載來優(yōu)化存儲,就是將數(shù)據(jù)存儲與應(yīng)用耦合。簡化或擴(kuò)展分布式文件系統(tǒng)的功能,根據(jù)特定應(yīng)用、特定負(fù)載、特定的計(jì)算模型對文件系統(tǒng)進(jìn)行定制和深度優(yōu)化,使應(yīng)用達(dá)到較好的性能。分布式存儲系統(tǒng)中的多臺服務(wù)器通過網(wǎng)絡(luò)進(jìn)行連接。但是我們無法保證網(wǎng)絡(luò)是一直通暢的,分布式系統(tǒng)需要具有一定的容錯性來處理網(wǎng)絡(luò)故障帶來的問題。一個令人滿意的情況是,當(dāng)一個網(wǎng)絡(luò)因?yàn)楣收隙纸鉃槎鄠€部分的時候,分布式...
存儲系統(tǒng)標(biāo)準(zhǔn)化:隨著分布式存儲的發(fā)展,存儲行業(yè)的標(biāo)準(zhǔn)化進(jìn)程也不斷推進(jìn),分布式存儲優(yōu)先采用行業(yè)標(biāo)準(zhǔn)接口(SMI-S或OpenStack Cinder)進(jìn)行存儲接入。在平臺層面,通過將異構(gòu)存儲資源進(jìn)行抽象化,將傳統(tǒng)的存儲設(shè)備級的操作封裝成面向存儲資源的操作,從而簡化異構(gòu)存儲基礎(chǔ)架構(gòu)的操作,以實(shí)現(xiàn)存儲資源的集中管理,并能夠自動執(zhí)行創(chuàng)建、變更、回收等整個存儲生命周期流程?;诋悩?gòu)存儲整合的功能,用戶可以實(shí)現(xiàn)跨不同品牌、介質(zhì)地實(shí)現(xiàn)容災(zāi),如用中低端陣列為好的陣列容災(zāi),用不同磁盤陣列為閃存陣列容災(zāi)等等,從側(cè)面降低了存儲采購和管理成本。存儲層級內(nèi)的優(yōu)化技術(shù):構(gòu)建存儲系統(tǒng)時,需要基于成本和性能來考慮。國內(nèi)存儲服...