構(gòu)架大數(shù)據(jù)網(wǎng)絡(luò)需要重視的問題

2016-06-13 15:55 作者：admin 瀏覽量：

　　在我們考慮大數(shù)據(jù)時，我們注意到了“大”這個字，但是在建設(shè)基礎(chǔ)架構(gòu)時，我們還應(yīng)該注意“分布式”。

　　事實上，大數(shù)據(jù)應(yīng)用程序需要處理大規(guī)模信息，而且在出于彈性的考慮將數(shù)據(jù)復(fù)制到多個位置時，信息的規(guī)模變得越來越大。但是，大數(shù)據(jù)的最重要屬性并不在于它的規(guī)模，而在于它將大作業(yè)分割成許多小作業(yè)的能力，它能夠?qū)⑻幚硪粋€任務(wù)的資源分散到多個位置變?yōu)椴⑿刑幚怼?/p>

　　在將大規(guī)模和分布式架構(gòu)組合在一起時，我們就能發(fā)現(xiàn)大數(shù)據(jù)網(wǎng)絡(luò)有一組特殊的需求。下面是需要考慮的六個方面：

　　1.網(wǎng)絡(luò)彈性與大數(shù)據(jù)應(yīng)用程序

　　如果有一組分布式資源必須通過互聯(lián)網(wǎng)絡(luò)進(jìn)行協(xié)調(diào)時，可用性就變得至關(guān)重要。如果網(wǎng)絡(luò)出現(xiàn)故障，那么造成的后果是出現(xiàn)不連續(xù)的壞計算資源與數(shù)據(jù)集。

　　準(zhǔn)確地說，大多數(shù)網(wǎng)絡(luò)架構(gòu)和工程師的主要關(guān)注點是正常運(yùn)行時間。但是，網(wǎng)絡(luò)故障時間的根源又各不相同。它們可能源自于各個方面，包括設(shè)備故障(硬件與軟件)、維護(hù)和人為錯誤。故障是不可避免的。雖然網(wǎng)絡(luò)的高度可用性也很重要，但是想要設(shè)計完美可用性是不可能的。

　　網(wǎng)絡(luò)架構(gòu)師不能用故障來逃避目標(biāo)，而應(yīng)該設(shè)計一些能適應(yīng)故障的彈性網(wǎng)絡(luò)。網(wǎng)絡(luò)的彈性取決于路徑多樣性(資源之間設(shè)置多條路徑)和故障轉(zhuǎn)移(能夠快速發(fā)現(xiàn)問題和轉(zhuǎn)移到其他路徑上)。除了傳統(tǒng)的平均故障時間間隔(MTBF)方法，大數(shù)據(jù)網(wǎng)絡(luò)的真正設(shè)計標(biāo)準(zhǔn)一定要包含這些特性。

　　2.解決大數(shù)據(jù)應(yīng)用中的網(wǎng)絡(luò)擁塞問題

　　大數(shù)據(jù)應(yīng)用程序不僅僅是規(guī)模大，而且還有一種我稱為突發(fā)性的特性。當(dāng)一個作業(yè)啟動之后，數(shù)據(jù)就開始流轉(zhuǎn)。在高流量時間段里，擁塞是一個嚴(yán)重的問題。然而，擁塞可能引起更多的隊列延遲時間和丟包率。此外，擁塞還可能觸發(fā)重轉(zhuǎn)，這可能讓本身負(fù)載繁重的網(wǎng)絡(luò)無法承受。因此，網(wǎng)絡(luò)架構(gòu)設(shè)計時應(yīng)該盡可能減少擁塞點。按照可用性的設(shè)計標(biāo)準(zhǔn)，減少擁塞要求網(wǎng)絡(luò)具有較高的路徑多樣性，這樣才能允許網(wǎng)絡(luò)將流量分散到大量不同的路徑上。

　　3.大數(shù)據(jù)中網(wǎng)絡(luò)一致性要比遲延性更重要

　　實際上，大多數(shù)大數(shù)據(jù)應(yīng)用程序?qū)W(wǎng)絡(luò)延遲并不敏感。如果計算時間的數(shù)量級為幾秒鐘或幾分鐘，那么即使網(wǎng)絡(luò)上出現(xiàn)較大延遲也是無所謂的——數(shù)量級大概為幾千毫秒。然而，大數(shù)據(jù)應(yīng)用程序一般具有較高的同步性。這意味著作業(yè)是并行執(zhí)行的，而各個作業(yè)之間較大的性能差異可能會引發(fā)應(yīng)用程序的故障。因此，網(wǎng)絡(luò)不僅要足夠高效，而且要在空間和時間上具有一致的性能。

　　4.現(xiàn)在就要準(zhǔn)備大數(shù)據(jù)未來的可伸縮性

　　可能讓人有點意外的是，大多數(shù)大數(shù)據(jù)集群實際上并不大。許多人都知道雅虎在其大數(shù)據(jù)環(huán)境中運(yùn)行著超過42,000個節(jié)點，但是根據(jù)Hadoop Wizard的數(shù)據(jù)，2013年大數(shù)據(jù)集群的平均節(jié)點數(shù)量只有100個。換句話說，即使每一臺服務(wù)器配置雙重冗余，支持整個集群也只需要4個接入交換機(jī)(假設(shè)是分別有72個10GbE訪問端口的Broadcom交換機(jī))。

　　可伸縮性并不在于現(xiàn)在集群現(xiàn)在有多大規(guī)模，而是說如何平衡地擴(kuò)展支持未來的部署規(guī)模。如果基礎(chǔ)架構(gòu)設(shè)計現(xiàn)在只適合小規(guī)模部署，那么這個架構(gòu)將如何隨著節(jié)點數(shù)量的增加而不斷進(jìn)化?在將來某一個時刻，它是否需要完全重新設(shè)計架構(gòu)?這個架構(gòu)是否需要一些近程數(shù)據(jù)和數(shù)據(jù)位置信息?關(guān)鍵是要記住，可伸縮性并不在于絕對規(guī)模，而是更關(guān)注于實現(xiàn)足夠規(guī)模解決方案的路徑。

　　5.通過網(wǎng)絡(luò)分割來處理大數(shù)據(jù)

　　網(wǎng)絡(luò)分割是創(chuàng)建大數(shù)據(jù)環(huán)境的重要條件。在最簡單的形式上，分割可能意味著要將大數(shù)據(jù)流量與其他網(wǎng)絡(luò)流量分離，這樣應(yīng)用程序產(chǎn)生的突發(fā)流量才不會影響其他關(guān)鍵任務(wù)工作負(fù)載。除此之外，我們還需要處理運(yùn)行多個作業(yè)的多個租戶，以滿足性能、合規(guī)性和/或?qū)徲嫷囊?。這些工作要求在一些場合中實現(xiàn)網(wǎng)絡(luò)負(fù)載的邏輯分離，一些場合則還要實現(xiàn)它們的物理分離。架構(gòu)師需要同時在兩個方面上進(jìn)行規(guī)劃，但是初始需求最好統(tǒng)一在一起。

　　6.大數(shù)據(jù)網(wǎng)絡(luò)的應(yīng)用感知能力

　　雖然大數(shù)據(jù)的概念與Hadoop部署關(guān)系密切，但是它已經(jīng)成為集群環(huán)境的代名詞。根據(jù)不同應(yīng)用程序的特點，這些集群環(huán)境的需求各不同相同。有一些可能對對帶寬要求高，而有一些則可能對延遲很敏感?？傊?，一個網(wǎng)絡(luò)要支持多應(yīng)用程序和多租戶，它就必須要能夠區(qū)分自己的工作負(fù)載，并且要能夠正確處理各個工作負(fù)載。

　　大數(shù)據(jù)網(wǎng)絡(luò)設(shè)計的關(guān)鍵是要理解一點：需求不僅僅是提供足夠的東西向帶寬。最終，應(yīng)用程序體驗取決于很多因素，包括網(wǎng)絡(luò)擁塞和分割。創(chuàng)建一個滿足所有這些需求的網(wǎng)絡(luò)需要有前瞻性，不僅要考慮基礎(chǔ)架構(gòu)能夠支持的伸縮規(guī)模，還要考慮不同類型的應(yīng)用程序如何共存于一個通用環(huán)境中。（北京it服務(wù)）