如何把握當(dāng)前最受關(guān)注的存儲技術(shù)及未來存儲技術(shù)發(fā)展趨勢?

分布式存儲和集中式存儲根據(jù)其自身優(yōu)勢,在未來可預(yù)期范圍內(nèi),兩種存儲架構(gòu)將會長期并存。用戶需要根據(jù)不同實際業(yè)務(wù)場景,選擇不同的存儲系統(tǒng)和技術(shù)。

本文來自微信公眾號“twt企業(yè)IT社區(qū)”。

近些年伴隨著互聯(lián)網(wǎng)、大數(shù)據(jù)、5G等技術(shù)的發(fā)展,數(shù)據(jù)存儲也發(fā)生著翻天覆地的變化,隨之出現(xiàn)了很多新的產(chǎn)品、新的技術(shù)和新的趨勢,面對這些新事物,我們?nèi)绾螐倪@些事物中抓住其本質(zhì),尋找出符合企業(yè)自身發(fā)展的主流技術(shù),以及對這些主流技術(shù)發(fā)展趨勢進(jìn)行預(yù)測,幫助企業(yè)進(jìn)行存儲發(fā)展和轉(zhuǎn)型,做好未來的規(guī)劃,是本議題想要探討的話題。

社區(qū)專家主張

蘇海濤某集團(tuán)公司首席數(shù)據(jù)官:本議題由某國有銀行高級工程師姜旭、某股份制銀行系統(tǒng)架構(gòu)師老谷以及嘉興銀行信息安全負(fù)責(zé)人高鶴發(fā)表針對議題下關(guān)鍵點的主張,幾位專家的主張在江西農(nóng)信運(yùn)維技術(shù)經(jīng)理鄧毓、某農(nóng)信社資深技術(shù)經(jīng)理雷智以及我本人等多位專家的復(fù)議后,形成了一定的共識供同行參考。

姜旭某國有銀行高級工程師:

分布式存儲和集中式存儲根據(jù)其自身優(yōu)勢,在未來可預(yù)期范圍內(nèi),兩種存儲架構(gòu)將會長期并存。用戶需要根據(jù)不同實際業(yè)務(wù)場景,選擇不同的存儲系統(tǒng)和技術(shù)。

一、引言

隨著云計算、大數(shù)據(jù)、人工智能、5G等新技術(shù)的推廣使用,我國產(chǎn)生的數(shù)據(jù)量進(jìn)入爆發(fā)性增長階段。作為信息化系統(tǒng)的核心部分和底層基座,存儲技術(shù)發(fā)展日新月異,固態(tài)硬盤SSD及相應(yīng)的接口、協(xié)議、標(biāo)準(zhǔn)正逐漸成為數(shù)據(jù)中心存儲主流。數(shù)據(jù)中心的存儲系統(tǒng)平臺,依據(jù)存儲節(jié)點不同的拓?fù)浣M織形式,一般分為分布式和集中式兩種,憑借新興軟件定義存儲技術(shù)(SDS)的推動,分布式存儲在數(shù)據(jù)中心快速崛起,隨著NVMe Over Fabric標(biāo)準(zhǔn)的成熟,傳統(tǒng)集中式存儲在以Scale-out架構(gòu)為主的現(xiàn)代數(shù)據(jù)中心里重放光彩。如何根據(jù)業(yè)務(wù)需求選擇合適的存儲技術(shù)?以及新型存儲技術(shù)未來發(fā)展趨勢如何?本文將詳細(xì)展開。

二、當(dāng)前最受關(guān)注的存儲技術(shù)介紹

1.分布式存儲方面(軟件定義存儲技術(shù))

軟件定義存儲,采用標(biāo)準(zhǔn)化通用服務(wù)器作為載體,基于軟件實現(xiàn)企業(yè)級存儲功能和服務(wù),從而實現(xiàn)存儲硬軟件分離。憑借著與云計算的天然結(jié)合優(yōu)勢,基于軟件定義存儲技術(shù)的分布式存儲系統(tǒng)為云計算提供按需分配的高效存儲資源池。

當(dāng)前軟件定義存儲產(chǎn)品技術(shù)主要分為開源系統(tǒng)和商業(yè)系統(tǒng)兩種模式。開源系統(tǒng)中根據(jù)存儲接口類型分類,主要代表有統(tǒng)一存儲Ceph,塊存儲Sheepdog,對象存儲Swift和文件存儲Glusterfs等;商業(yè)系統(tǒng)中根據(jù)市場占有情況,國內(nèi)主要代表FusionStorage、XSKY等。開源模式降低了存儲研發(fā)的門檻,基于成熟的開源存儲技術(shù)可以快速構(gòu)建起具有一定競爭力的存儲產(chǎn)品體系,實現(xiàn)市場布局和自主可控國產(chǎn)化;商業(yè)模式具備完整的開發(fā)、測試和驗收流程,并擁有健全的運(yùn)維支持能力。目前國內(nèi)存儲廠商尤其是初創(chuàng)公司較多使用開源模式,而大型金融公司更多采用商業(yè)模式。

2.集中式存儲方面(NVMe over RoCE)

金融業(yè)傳統(tǒng)高性能存儲系統(tǒng)主要采用基于FC-SAN的集中式存儲系統(tǒng),但由于FC交換網(wǎng)絡(luò)協(xié)議相對封閉,缺乏“即插即用”的能力,難以適應(yīng)新型數(shù)據(jù)中心靈活彈性的需求。同時FC-SAN的主要技術(shù)控制在美國廠商手中,在當(dāng)前國家科技自立自強(qiáng)重大戰(zhàn)略背景下,融合高性能RDMA技術(shù)與以太網(wǎng)技術(shù)的NVMe over RoCE應(yīng)運(yùn)而生,在具備接近InfiniBand高性能的同時兼有以太網(wǎng)的互操作性。

NVMe over RoCE是NVMe-oF的三種形式之一,目前技術(shù)演進(jìn)路線最為成熟。開放數(shù)據(jù)中心委員會(ODCC)于2020年11月發(fā)布了《NVMe over RoCE網(wǎng)絡(luò)控制優(yōu)化技術(shù)要求與測試規(guī)范》,在存儲設(shè)備即插即用和鏈路可靠性兩個方面提供端到端NVMe over RoCE增強(qiáng)方案,進(jìn)一步釋放存儲性能潛力,同時提升企業(yè)級存儲系統(tǒng)的易用性和可靠性。

三、新型存儲技術(shù)面臨的問題

1.軟件定義存儲

開源模式方面,由于系統(tǒng)本身復(fù)雜性高,完全吃透并且掌握難度大,通常都是跟隨社區(qū)主導(dǎo)者的步伐發(fā)展,這對商業(yè)用戶后續(xù)的維護(hù)來說難度較大。通常遇到BUG時,需要將問題先提交至社區(qū),經(jīng)過社區(qū)問題討論、合并、測試、驗證后才能徹底解決,時間跨度大,效率較低,對用戶來說非常不友好。商業(yè)模式方面,多數(shù)系統(tǒng)為黑盒產(chǎn)品,且與廠商強(qiáng)綁定關(guān)系,存在單一來源風(fēng)險。同時運(yùn)維人員無法深刻理解底層原理,遇到問題時過度依賴廠商,對用戶的技能提升也存在限制。

此外,由于軟件定義存儲集群間的通信依賴于節(jié)點間的以太網(wǎng),且集群內(nèi)要求多副本數(shù)據(jù)一致性,時延相對于本地存儲、集中式存儲等較高,因而多數(shù)產(chǎn)品目前僅支持在同園區(qū)部署,無法滿足城市級高可用,限制了產(chǎn)品的使用場景。

2.NVMe over RoCE

當(dāng)前NVMe over RoCE涉及的技術(shù)標(biāo)準(zhǔn)和規(guī)范建設(shè)存在兩個主要問題,一是技術(shù)標(biāo)準(zhǔn)的體系性不夠。從軟硬件設(shè)備來看,存儲設(shè)備、網(wǎng)絡(luò)設(shè)備到服務(wù)器、操作系統(tǒng)以及數(shù)據(jù)庫等NVMeover RoCE的產(chǎn)業(yè)生態(tài)鏈尚不完善,無法形成全鏈路的兼容適配與聯(lián)動;從金融行業(yè)使用情況來看,當(dāng)前僅有少數(shù)國有大行和部分股份制銀行開展相關(guān)研究并落地,生態(tài)環(huán)境還有待進(jìn)一步完善。二是需要推動相關(guān)技術(shù)規(guī)范從團(tuán)體標(biāo)準(zhǔn)向行業(yè)(或國家)標(biāo)準(zhǔn)演進(jìn),以更利于產(chǎn)業(yè)生態(tài)建設(shè)。

此外,雖然NVMe over RoCE技術(shù)在金融行業(yè)已有試點落地案例,但僅限于傳統(tǒng)環(huán)境。目前該技術(shù)與云環(huán)境的完全適配還存在一定的距離,主要包括云環(huán)境對存儲設(shè)備和網(wǎng)絡(luò)設(shè)備納管、安全認(rèn)證等。目前兼容NVMe over RoCE的云環(huán)境建設(shè)還任重而道遠(yuǎn)。

四、新型存儲技術(shù)未來發(fā)展趨勢及使用場景

1.軟件定義存儲未來應(yīng)保持和云環(huán)境的技術(shù)架構(gòu)一致,易緊密集成的優(yōu)勢,支持部署在裸金屬、私有云、公有云及混合云上。隨著存儲的高速協(xié)議接口(如NVMe,SPDK等)以及高速網(wǎng)絡(luò)技術(shù)(如RDMA)快速發(fā)展,節(jié)點間的數(shù)據(jù)訪問時延也進(jìn)一步得到優(yōu)化,后續(xù)軟件定義存儲系統(tǒng)將使用場景從本地擴(kuò)展至同城,提升集群高可用能力。同時,由于時延的降低,軟件定義存儲系統(tǒng)將不僅僅局限在作為云內(nèi)虛擬機(jī)的存儲資源,可考慮應(yīng)用部分IO時延敏感場景。

2.NVMe over RoCE憑借高性能、高穩(wěn)定性優(yōu)勢,結(jié)合“信創(chuàng)”東風(fēng),未來可全面實現(xiàn)主機(jī)下平臺任務(wù)?;贜VMe over RoCE的存儲體系,相較于傳統(tǒng)的FC-SAN環(huán)境,在批量和聯(lián)機(jī)場景性能提升較為明顯,時延約為傳統(tǒng)環(huán)境的30%-50%。隨著生態(tài)的逐步完善,待新型存儲體系與云環(huán)境進(jìn)行深度融合后,未來將更多應(yīng)用于云內(nèi)裸金屬節(jié)點,并與國產(chǎn)化數(shù)據(jù)庫等應(yīng)用相結(jié)合,實現(xiàn)集中式存儲全鏈路國產(chǎn)化。

五、結(jié)語

分布式存儲和集中式存儲根據(jù)其自身優(yōu)勢,在未來可預(yù)期范圍內(nèi),兩種存儲架構(gòu)將會長期并存。用戶需要根據(jù)不同實際業(yè)務(wù)場景,選擇不同的存儲系統(tǒng)和技術(shù)。這兩者并不是一種對立的關(guān)系,因而我們需要用辯證的角度來看待。我相信未來兩種架構(gòu)會相互促進(jìn),良性發(fā)展,共同支持業(yè)務(wù)系統(tǒng)平穩(wěn)運(yùn)行。

老谷某股份制銀行系統(tǒng)架構(gòu)師:

存儲技術(shù)的發(fā)展,從90年DAS架構(gòu),到SAN架構(gòu)和NAS架構(gòu)混合架構(gòu),再到如今軟件定義存儲的分布式架構(gòu),這幾十年架構(gòu)的演進(jìn)都伴隨著應(yīng)用的轉(zhuǎn)型,所以存儲未來發(fā)展的趨勢同樣由應(yīng)用環(huán)境和客戶需求決定。

一、引言

當(dāng)前,隨著信息化技術(shù)的飛速發(fā)展,數(shù)據(jù)已經(jīng)成為各個金融單位的重要資源,如何進(jìn)行數(shù)據(jù)存儲,如何更好的利用數(shù)據(jù),成為了各單位科技部門研究探討的熱門話題,尤其是近些年伴隨著互聯(lián)網(wǎng)、大數(shù)據(jù)、5G等技術(shù)的發(fā)展,對于數(shù)據(jù)存儲也發(fā)生著翻天覆地的變化,隨之出現(xiàn)了很多新的產(chǎn)品、新的技術(shù)、新的趨勢,面對這些新事物,我們?nèi)绾螐倪@些事物中抓住其本質(zhì),尋找出符合企業(yè)自身發(fā)展的主流技術(shù),幫助企業(yè)進(jìn)行存儲發(fā)展和轉(zhuǎn)型,是本文想要探討的內(nèi)容。

二、存儲技術(shù)的發(fā)展

對于信息化來說,IT資源的三大基石是計算、存儲、網(wǎng)絡(luò)。存儲主要負(fù)責(zé)的是數(shù)據(jù)存取。從計算機(jī)發(fā)展的初期到現(xiàn)在云計算、大數(shù)據(jù)時代,存儲設(shè)備的發(fā)展主要分為四個階段:服務(wù)器硬盤階段、外置擴(kuò)展柜階段、集中式存儲階段、分布式存儲階段。

三、存儲技術(shù)詳解

結(jié)合金融行業(yè)的應(yīng)用系統(tǒng)而言,當(dāng)前金融場景使用比較多的存儲設(shè)備是集中式存儲和分布式存儲。

集中式存儲是各銀行常見的存儲設(shè)備,在銀行應(yīng)用中,主要有SAN及NAS存儲、融合存儲、混閃、全閃等幾種存儲形態(tài),磁盤的發(fā)展經(jīng)歷了機(jī)械盤、SSD固態(tài)硬盤、NVMe接口全閃存儲等磁盤類型;隨著磁盤及存儲性能的穩(wěn)步提升,延時和高可用性都得到了進(jìn)一步的提升。銀行的主要應(yīng)用場景也集中在核心業(yè)務(wù)、穩(wěn)態(tài)系統(tǒng)、數(shù)據(jù)庫、虛擬化等。集中式存儲功能完善,穩(wěn)定性好,運(yùn)維簡單,監(jiān)控、運(yùn)維體系健全,技術(shù)成熟,可選擇的范圍也很廣,從中低端到高端產(chǎn)品齊全。不足是:在新興的海量數(shù)據(jù)存儲場景中容量和擴(kuò)展性能力不足,用戶需要考慮集中式存儲的適用場景。

隨著近些年銀行數(shù)字化轉(zhuǎn)型的深入,海量數(shù)據(jù)對存儲提出了新的要求。傳統(tǒng)存儲雖然有技術(shù)成熟、性能良好、可用性高等優(yōu)點,但面對海量數(shù)據(jù),其缺點也越來越明顯:如擴(kuò)展性差、成本高等。為了克服上述缺點,滿足海量數(shù)據(jù)的存儲需求,市場上出現(xiàn)了分布式存儲技術(shù),其特點非常敏捷,資源可彈性部署、按需獲取,支撐新興業(yè)務(wù)快速上線;面對數(shù)據(jù)中心結(jié)構(gòu)化、非結(jié)構(gòu)化等復(fù)雜的數(shù)據(jù)類型,能提供豐富的訪問接入支持;可快速海量擴(kuò)展性能與容量,擴(kuò)展方式非常簡單,提供極致性能,滿足并行數(shù)據(jù)處理需求。

下面根據(jù)銀行不同業(yè)務(wù)場景和技術(shù)對存儲技術(shù)進(jìn)行描述:

比如在金融傳統(tǒng)核心業(yè)務(wù)場景,主流技術(shù)方案是通過集中式存儲部署雙活數(shù)據(jù)中心或者兩地三中心,通過該方案能夠達(dá)到高級別的容災(zāi)能力,保障核心業(yè)務(wù)系統(tǒng)數(shù)據(jù)的連續(xù)性和系統(tǒng)可靠性?;诖鎯θ轂?zāi)技術(shù)實現(xiàn)數(shù)據(jù)的兩地三中心保護(hù)。該方案在生產(chǎn)中心、同城災(zāi)備中心和異地災(zāi)備中心分別部署存儲設(shè)備,通過雙活技術(shù),實現(xiàn)數(shù)據(jù)在生產(chǎn)中心和同城災(zāi)備中心的雙寫,再通過遠(yuǎn)程復(fù)制技術(shù)將數(shù)據(jù)同步到異地災(zāi)備中心,實現(xiàn)數(shù)據(jù)的保護(hù)。若生產(chǎn)中心發(fā)生災(zāi)難,可在同城災(zāi)備中心實現(xiàn)業(yè)務(wù)切換,并保持與異地災(zāi)備中心的容災(zāi)關(guān)系;若生產(chǎn)中心和同城災(zāi)備中心均發(fā)生災(zāi)難,可在異地災(zāi)備中心實現(xiàn)業(yè)務(wù)切換。

容器技術(shù)在金融行業(yè)的應(yīng)用場景已經(jīng)非常廣泛,為金融IT和業(yè)務(wù)轉(zhuǎn)型帶來了近乎顛覆性的思路,在部署便利性、輕量化、彈性等方面具有巨大優(yōu)勢,那么如何進(jìn)行容器平臺的存儲選型,需要結(jié)合業(yè)務(wù)場景,根據(jù)容器對存儲的使用要求來定。對于需要數(shù)據(jù)共享的穩(wěn)態(tài)業(yè)務(wù)場景,對文件存儲性能和穩(wěn)定性要求非常高,以往使用的是高性能的分布式文件存儲,但隨著高性能NAS存儲的發(fā)展,近些年越來越多的客戶開始使用NAS存儲。對于大數(shù)據(jù)場景,通常使用HDFS接口的分布式存儲。容器平臺本身就是一個分布式架構(gòu),如果用集中式存儲去支撐這樣的架構(gòu),當(dāng)容器平臺橫向擴(kuò)展到一定程度,對于大數(shù)據(jù)、票據(jù)影像等非結(jié)構(gòu)化的大文件、低帶寬等場景,集中式存儲讀寫雖然面對上層的并發(fā)壓力,通過Scale-out的方式擴(kuò)展,避免出現(xiàn)瓶頸,但集中式存儲的性價比問題就顯得有些突兀。所以在部分容器場景中,分布式存儲也是容器的很好選擇,容器云平臺環(huán)境下,分布式存儲采用節(jié)點的Scale-out擴(kuò)展架構(gòu),可實現(xiàn)超大集群規(guī)模的部署,從3節(jié)點存儲集群起步,可實現(xiàn)靈活的擴(kuò)展至數(shù)千節(jié)點,尤其適用于大文件、低帶寬場景。存儲容量可實現(xiàn)一個集群EB級數(shù)據(jù)空間。同時由于分布式架構(gòu),每一個存儲節(jié)點都可以提供獨立的性能支撐,在高并發(fā)的數(shù)據(jù)處理中,可以實現(xiàn)更高的存儲性能,更高的帶寬吞吐和IOPS。有效的解決海量數(shù)據(jù)高擴(kuò)展和高性能的存儲需求,更容易滿足容器云平臺的建設(shè)和發(fā)展。

四、存儲發(fā)展趨勢

回顧過去,存儲技術(shù)的發(fā)展,從90年DAS架構(gòu),到SAN架構(gòu)和NAS架構(gòu)混合架構(gòu),再到如今軟件定義存儲的分布式架構(gòu),經(jīng)歷了幾十年的發(fā)展演進(jìn),這幾十年架構(gòu)的演進(jìn)都伴隨著應(yīng)用的轉(zhuǎn)型,所以存儲未來發(fā)展的趨勢同樣由應(yīng)用環(huán)境和客戶需求決定。

1.存儲架構(gòu)由傳統(tǒng)集中式為主發(fā)展為集中式+分布式雙模式架構(gòu)

在金融科技創(chuàng)新發(fā)展過程中,業(yè)務(wù)越來越多樣化,數(shù)據(jù)規(guī)模也呈爆發(fā)式增長,因此對海量數(shù)據(jù)的有效管理、業(yè)務(wù)敏捷上線、低成本運(yùn)營等一系列的要求促使金融企業(yè)選擇上云發(fā)展。

同時為確保關(guān)鍵應(yīng)用的穩(wěn)定可靠,傳統(tǒng)技術(shù)架構(gòu)或核心系統(tǒng)還會在一定時間內(nèi)保持原有架構(gòu)不變,而新架構(gòu)和新核心更多地支撐原生云技術(shù)和云服務(wù)的新型業(yè)務(wù)及應(yīng)用(如互聯(lián)網(wǎng)金融業(yè)務(wù)),兩者會在一定時間段內(nèi)并存,這就是業(yè)界熟知的“雙模IT架構(gòu)”。就其中的數(shù)據(jù)存儲架構(gòu)來說,如果采用分布式存儲架構(gòu),可以有效應(yīng)對除“核心應(yīng)用”以外的業(yè)務(wù)場景需求,為敏態(tài)IT提供數(shù)據(jù)承載底座。而且傳統(tǒng)存儲與分布式存儲的關(guān)系,必然是分久必合的狀態(tài),從分布式的多節(jié)點可以看出,其技術(shù)模式與雙控存儲架構(gòu)的原理基本一致,不論是國外的AWS、DellEMC,還是國內(nèi)的華為,都開始嘗試退出雙管理節(jié)點的分布式存儲,嘗試通過單機(jī)的部件冗余,來達(dá)到金融行業(yè)對存儲的高可靠的要求,而模塊化的架構(gòu),業(yè)促進(jìn)了分布式存儲的易維護(hù)性。

集中式存儲從架構(gòu)來說,可以分為AP架構(gòu)和AA架構(gòu),以雙控為例,AP架構(gòu)一個控制器的端口處于主動狀態(tài),另一個控制器的目標(biāo)端口處于被動狀態(tài),對于一個數(shù)據(jù)或者任務(wù)來說,任何時候只有一個控制器在工作。AA架構(gòu),及集中式存儲的分布式架構(gòu),所有控制器都是“活”的,硬盤不歸屬于某一個控制器,可以通過負(fù)載均衡保證性能,兩個控制器同時工作,當(dāng)其中一個控制器出現(xiàn)故障時,對存儲沒有影響,依舊能夠提供服務(wù)。

同樣,分布式存儲的雙控架構(gòu),是解決可靠性的關(guān)鍵技術(shù),分布式存儲隨著規(guī)格和單硬件服務(wù)器存儲容量的擴(kuò)大,其可靠性會越來越低,通過兩個控制器,每個節(jié)點連接所有硬盤,在控制器故障情況下,可以相互接管,大大提高分布式存儲的可靠性。

所以無論是集中式存儲還是分布式存儲,分布式+雙控架構(gòu)才是未來企業(yè)選擇存儲的重要關(guān)鍵。

2.存儲訪問協(xié)議由SAS/FC向NVMe演進(jìn)

在存儲系統(tǒng)當(dāng)中,HDD和SSD早期的傳輸協(xié)議都是AHCI單隊列模式,也就是說服務(wù)器和硬盤之間的數(shù)據(jù)傳輸為單隊列模式。早期數(shù)據(jù)存儲的性能主要受限于HDD硬盤本身,因此AHCI的性能瓶頸也就不是主要矛盾了。但是隨著SSD介質(zhì)技術(shù)的不斷應(yīng)用,AHCI的單隊列模式已經(jīng)嚴(yán)重制約SSD介質(zhì)的并發(fā)訪問性能的發(fā)揮了。因此NVMe協(xié)議應(yīng)運(yùn)而生,它旨在降低時延的同時提高IOPS,可以達(dá)到16Gbps的吞吐量,部分基于NVMe的驅(qū)動器可以達(dá)到200萬甚至1000萬的IOPS。未來十年的存儲技術(shù)發(fā)展,伴隨著NVMe本身技術(shù)發(fā)展,它一定會主宰未來存儲協(xié)議。

3.存儲運(yùn)維向智能化演進(jìn)

運(yùn)維人員在復(fù)雜的IT環(huán)境下管理和升級存儲系統(tǒng),帶來了成本的激增。正所謂“大道至簡”,存儲系統(tǒng)需要能夠自動適應(yīng)軟硬件環(huán)境變化并進(jìn)行自動智能控制調(diào)節(jié),提供出眾的簡化性、可用性和性能表現(xiàn),這也是存儲智能化的一個重要訴求。目前存儲產(chǎn)品正積極引入智能、自動化、應(yīng)用感知等特性,正在從多個維度引領(lǐng)存儲智能化的發(fā)展潮流。

4.存儲硬件技術(shù)會向綠色節(jié)能方向不斷演進(jìn)

未來降低能耗將成為數(shù)據(jù)中心建設(shè)的首要目標(biāo),通過使用可代替可再生能源將成為數(shù)據(jù)中心主要的電力能源。新一代綠色數(shù)據(jù)中心需要新型綠色節(jié)能技術(shù)的支持。同樣存儲設(shè)備作為數(shù)據(jù)中心所有IT設(shè)備當(dāng)中最耗能源的設(shè)備,也必須與這個整體目標(biāo)相符發(fā)展。從存儲產(chǎn)品的硬件層面來實現(xiàn)節(jié)能無非需要從架構(gòu)設(shè)計、芯片使用以及硬盤介質(zhì)等幾個方面來推進(jìn)。從目前的技術(shù)參數(shù)對比來看,從時延、功耗、返還率等重要技術(shù)參數(shù)對比來看,固態(tài)硬盤都要遠(yuǎn)遠(yuǎn)優(yōu)于傳統(tǒng)機(jī)械硬盤,未來隨著TCO不斷降低,固態(tài)硬盤會取代機(jī)械硬盤的霸主地位;更節(jié)能高效的非易失性內(nèi)存技術(shù)填補(bǔ)了從硬盤到DRAM之間的性能、成本、能耗等方面的不平衡性。也定會成為未來新型存儲產(chǎn)品必不可少的關(guān)鍵技術(shù)。

高鶴 嘉興銀行信息安全負(fù)責(zé)人:

實施存儲只需安裝幾個磁盤驅(qū)動器的日子已經(jīng)一去不復(fù)返了,當(dāng)今的數(shù)據(jù)密集型工作負(fù)載需要各種存儲解決方案來處理數(shù)量空前的異構(gòu)數(shù)據(jù)。

一、當(dāng)前最受關(guān)注的存儲技術(shù)

當(dāng)前最受關(guān)注的五項存儲技術(shù):軟件定義存儲、智能存儲、計算存儲和存儲級內(nèi)存,代表了數(shù)據(jù)存儲的重要趨勢,并且正在成為越來越多的基礎(chǔ)設(shè)施存在。

1.軟件定義存儲

盡管傳統(tǒng)的存儲配置仍然發(fā)揮著至關(guān)重要的作用,但它們并不能滿足當(dāng)今大量動態(tài)、分布式和異構(gòu)數(shù)據(jù)的需求。一些IT團(tuán)隊正在通過轉(zhuǎn)向軟件定義存儲(SDS)來應(yīng)對這些挑戰(zhàn),SDS是一種基于軟件的解決方案,在應(yīng)用程序和存儲設(shè)備之間提供了一個抽象層,實際上將存儲軟件與底層硬件分開。

理想情況下,SDS解決方案將在商用服務(wù)器上運(yùn)行并支持各種存儲設(shè)備,從而消除對專有硬件或其軟件的任何依賴。SDS解決方案控制來自應(yīng)用程序的存儲請求,同時管理存儲資源本身。以這種方式將數(shù)據(jù)平面與控制平面分開可以提高操作敏捷性并控制數(shù)據(jù)的存儲位置和存儲方式。

盡管供應(yīng)商對SDS采用不同的方法,但解決方案通常使用虛擬化將物理存儲設(shè)備整合到邏輯資源池中,這些資源池可以動態(tài)控制并分配給需要它們的應(yīng)用程序。SDS解決方案公開了用于配置和管理資源的基于標(biāo)準(zhǔn)的API,從而更容易實現(xiàn)操作自動化,支持基礎(chǔ)設(shè)施即代碼(Infrastructure as Code)等開發(fā)工作,并與Kubernetes等容器編排工具集成。

SDS的最大優(yōu)勢之一是靈活性。IT團(tuán)隊不僅有更多的硬件選擇,而且應(yīng)用程序也會受益,因為可以按需分配和擴(kuò)展存儲資源。此外,SDS解決方案可以更好地利用物理資源,從而降低成本,尤其是當(dāng)消除專有存儲系統(tǒng)和隨之而來的供應(yīng)商鎖定時。SDS有時甚至可以通過使用并行性、數(shù)據(jù)分層和數(shù)據(jù)緩存來提高性能。

然而,SDS并非沒有挑戰(zhàn)。對于初學(xué)者來說,實施和維護(hù)SDS解決方案可能是一項復(fù)雜的工作,尤其是在使用來自不同供應(yīng)商的多個存儲產(chǎn)品時。這些不同的供應(yīng)商方案還可能使獲得供應(yīng)商支持甚至識別特定問題的根源變得更加困難(進(jìn)一步加劇了支持問題)。此外,SDS解決方案可能不像有時建議的那樣與硬件無關(guān),并且某些SDS產(chǎn)品可能不包括專用專有系統(tǒng)可用的所有功能,盡管這種情況一直在穩(wěn)步改進(jìn)。

2.智能存儲

不斷增長的異構(gòu)數(shù)據(jù)量帶來了各種各樣的性能、維護(hù)和安全問題。為了幫助解決這些問題,供應(yīng)商一直在逐步將智能整合到他們的存儲解決方案中。智能存儲利用人工智能(AI)和其他先進(jìn)技術(shù)來主動管理系統(tǒng)、優(yōu)化性能并在潛在問題發(fā)生之前解決它們。

智能系統(tǒng)不斷地從其環(huán)境中學(xué)習(xí)并相應(yīng)地自動調(diào)整其行為。該系統(tǒng)從參與的存儲系統(tǒng)收集遙測數(shù)據(jù),聚合和分析數(shù)據(jù),然后使用它所學(xué)到的知識來維護(hù)和優(yōu)化這些系統(tǒng)。如果有效實施,智能存儲解決方案可以提供更高的可靠性、安全性、資源利用率和應(yīng)用程序性能。

智能存儲系統(tǒng)依賴于復(fù)雜的分析引擎,該引擎利用機(jī)器學(xué)習(xí)和深度學(xué)習(xí)等人工智能技術(shù),以及包括預(yù)測分析在內(nèi)的其他先進(jìn)技術(shù)。該引擎識別數(shù)據(jù)中的模式和異常,以預(yù)測問題、預(yù)測趨勢、識別性能問題并解決其他潛在問題。同時,引擎不斷從收集的數(shù)據(jù)中學(xué)習(xí),從而實現(xiàn)更準(zhǔn)確的預(yù)測,進(jìn)而提高存儲系統(tǒng)的效率。

智能存儲解決方案可以自動預(yù)測結(jié)果并在問題發(fā)生之前預(yù)防問題,同時采取措施優(yōu)化工作負(fù)載性能并確保數(shù)據(jù)保持安全和合規(guī)。該解決方案可能會提醒隱私問題、解決安全威脅、幫助規(guī)劃容量、在存儲空間不足時通知告警、將資源分配給虛擬化工作負(fù)載或執(zhí)行各種其他操作。

3.計算存儲

在傳統(tǒng)的計算/存儲架構(gòu)中,數(shù)據(jù)在存儲設(shè)備和計算機(jī)的內(nèi)存之間傳輸,可以響應(yīng)應(yīng)用程序請求進(jìn)行處理。在正常操作下,數(shù)據(jù)在兩者之間自由移動,很少遇到延遲問題和瓶頸。但是,現(xiàn)代工作負(fù)載(例如AI或大數(shù)據(jù)分析)可能會遇到性能問題,因為位于存儲和內(nèi)存之間的I/O端口帶寬有限,無法滿足需求,從而導(dǎo)致響應(yīng)時間變慢的瓶頸。

為了解決這個問題,一些供應(yīng)商現(xiàn)在提供計算存儲解決方案,將至少部分處理轉(zhuǎn)移到存儲平臺本身,這種方法有時被稱為近數(shù)據(jù)處理。計算存儲在存儲層中使存儲和計算資源更緊密地結(jié)合在一起,可以代表服務(wù)器對數(shù)據(jù)進(jìn)行預(yù)處理。這不僅縮短了數(shù)據(jù)訪問路徑并減少了流量以及隨之而來的延遲,而且計算組件還可以利用存儲解決方案中固有的并行處理能力,從而獲得更快的性能。

計算存儲可以潛在地使處理大量數(shù)據(jù)的任何對延遲敏感的應(yīng)用程序受益。它還可能使計算資源通常受大小限制的邊緣計算和物聯(lián)網(wǎng)(IoT)場景受益。例如,可以就地聚合大量數(shù)據(jù)集,然后僅將聚合結(jié)果發(fā)送到服務(wù)器的內(nèi)存以進(jìn)行額外處理。通過這種方式,可以減少必須通過I/O端口的數(shù)據(jù)量,同時最大限度地減少對計算資源的影響,從而釋放它們用于其他工作負(fù)載。

盡管現(xiàn)在有幾家供應(yīng)商提供計算存儲系統(tǒng),但該技術(shù)還處于發(fā)展階段。由于實現(xiàn)的差異,遇到集成問題并不少見。幸運(yùn)的是,存儲網(wǎng)絡(luò)行業(yè)協(xié)會(SNIA)已經(jīng)開始努力定義用于部署、配置、管理和保護(hù)計算存儲設(shè)備的接口標(biāo)準(zhǔn)。

4.存儲級內(nèi)存

另一種現(xiàn)在引起廣泛關(guān)注的現(xiàn)代技術(shù)是存儲級內(nèi)存(SCM),這種存儲器幾乎與動態(tài)隨機(jī)存取存儲器(DRAM)一樣快,且與NAND閃存一樣是非易失性的(也就是說,它可以保留即使從電源拔下數(shù)據(jù))。SCM的每字節(jié)成本也低于DRAM,而性能卻大大優(yōu)于NAND。它甚至可能比NAND提供更大的耐用性。

與計算存儲一樣,SCM仍然是一項年輕的技術(shù),但背后有很大的發(fā)展勢頭。SCM也稱為持久內(nèi)存、PMEM或P-MEM。一些消息來源根據(jù)技術(shù)的實現(xiàn)方式來區(qū)分SCM和持久內(nèi)存,但這種不一致在像SCM這樣的新興行業(yè)中很常見,毫無疑問,該行業(yè)最終會采用一個通用的命名法。

圍繞SCM的討論通常圍繞內(nèi)存/存儲層次結(jié)構(gòu)中的新層的想法展開,SCM模塊位于DRAM和NAND閃存之間。與DRAM一樣,SCM設(shè)備是字節(jié)可尋址的,并且可以直接連接到服務(wù)器的內(nèi)存空間,從而提供了一種有效的方式來支持需要比DRAM實際提供的更多內(nèi)存的延遲敏感型應(yīng)用程序。

通過彌合傳統(tǒng)內(nèi)存和存儲之間的差距,SCM使應(yīng)用程序可以通過系統(tǒng)內(nèi)存空間訪問大型數(shù)據(jù)集,從而顯著加快讀寫操作。

二、存儲技術(shù)的未來發(fā)展趨勢

1.NAND閃存越來越普及

NAND閃存的采用在數(shù)據(jù)中心市場占有重要份額,提供比硬盤驅(qū)動器(HDD)在物理上能夠?qū)崿F(xiàn)的性能和耐用性要好得多。隨著NAND的普及和密度的增加,價格穩(wěn)步下降,使其成為比以往任何時候都更可行的存儲選擇。

2.存儲類內(nèi)存適用場景

在過去的幾年里,存儲類內(nèi)存(SCM)引起了許多頭條新聞,尤其是IBM最近發(fā)布了第一款Optane DC持久內(nèi)存模塊(PMM)。這些模塊插入標(biāo)準(zhǔn)的雙列直插式內(nèi)存模塊(DIMM)插槽,允許PMM直接連接到服務(wù)器的內(nèi)存空間。Optane DC模塊代表著向位于傳統(tǒng)動態(tài)RAM(DRAM)和NAND閃存存儲之間的新存儲層的愿景邁出了一大步,以支持苛刻的企業(yè)工作負(fù)載。

3.未來充滿想象

5D存儲、賽道存儲器,DNA存儲......

三、結(jié)語

隨著移動設(shè)備的爆炸式增長,以及隨之而來的物聯(lián)網(wǎng)(IoT)的涌入,人們、應(yīng)用程序和機(jī)器生成的數(shù)據(jù)比以往任何時候都多。從所有數(shù)據(jù)中獲取意義的唯一方法是開發(fā)創(chuàng)新的高性能、大容量存儲解決方案。

結(jié)束語

通過三位銀行同行的觀點和分析,企業(yè)用戶需要根據(jù)不同實際業(yè)務(wù)場景,選擇不同的存儲系統(tǒng)和技術(shù),切勿病急亂投醫(yī),或是沒有實際調(diào)研就盲目跟風(fēng)。

THEEND

最新評論(評論僅代表用戶觀點)

更多
暫無評論