IBM宣稱:POWER9加InfiniBand的組合才是AI最優(yōu)解
IBM公司在本月早些時(shí)候于紐約召開的AI紐約峰會(huì)上指出,其POWER9方案在支持AI以實(shí)現(xiàn)認(rèn)知工作能力方面優(yōu)于通用或?qū)S眯蚗86商業(yè)現(xiàn)成(簡(jiǎn)稱COTS)工具。
藍(lán)色巨人最近公布了一項(xiàng)演示,據(jù)稱其能夠利用自有專有服務(wù)器配合低延遲/高帶寬技術(shù)接入FlashSystem陣列例如PCIeGen4、EDR與QDRInfiniBand以及NVMeoverFabrics,從而在性能表現(xiàn)上將COTS服務(wù)器及存儲(chǔ)方案遠(yuǎn)遠(yuǎn)甩在身后。
當(dāng)然,E8、Excelero、Pavilion以及FarmationDataSystems等初創(chuàng)企業(yè)都已經(jīng)在推出NVMeoverFabrics訪問型存儲(chǔ)陣列,而PureStorage也有意作出嘗試這一切都能夠支持立足X86服務(wù)器的訪問能力。
另外,庫(kù)卡機(jī)器人驅(qū)動(dòng)器維修,IBM公司在展示中還使用了NVMeoverFabricsInfiniBand(簡(jiǎn)稱NVMe-oF)。IBM公司并沒有正式公布在AC922服務(wù)器或者FlashSystem900陣列上支持NVMe-oF協(xié)議,但從目前的技術(shù)預(yù)覽來看確有這種可能。
此次展示于今年12月5日到6日召開的AI紐約峰會(huì)上正式亮相。薦AC922采用PCIe第四代總線,速度是目前大多數(shù)服務(wù)器所使用的PCIe第三代總線的兩倍。
IBM公司還向與會(huì)者們展示了基于POWER9的AC922與五臺(tái)FlashSystem900陣列利用NVMe-oF實(shí)現(xiàn)對(duì)接的預(yù)覽方案,并表示其能夠有效降低數(shù)據(jù)訪問延遲并提升傳輸帶寬。
藍(lán)色巨人Flashsystem產(chǎn)品組合與賦能戰(zhàn)略經(jīng)理WoodyHutsell在博文中指出,這臺(tái)AC922服務(wù)器能夠?qū)/O數(shù)據(jù)吞吐能力提升至目前x86服務(wù)器內(nèi)所使用的PCIe第三代總線的5.6倍。
IBM公司表示,其將成為AI實(shí)現(xiàn)方案的理想之選其能夠攝取海量數(shù)據(jù),同時(shí)完成實(shí)時(shí)推理(對(duì)象檢測(cè))。
Hutsell表示,F(xiàn)lashSsytem900已經(jīng)能夠利用InfiniBand連接支持SRP(即SCSIoverRDMA協(xié)議),并可將SCSI代碼替換為NVMe代碼以進(jìn)一步降低延遲水平。
IBM公司在技術(shù)預(yù)覽中使用的硬件配置
在展示中,AC922服務(wù)器通過一個(gè)雙閊NVMe-oFEDR100GbitMellanox適配器接入一臺(tái)MellanoxSwitch-IB27800交換機(jī)后者又接入五臺(tái)FlashSystem900陣列,每臺(tái)陣列配有4個(gè)每秒40GbitQDRInfiniBand端口。
這套配置可提供每秒41GB總傳輸帶寬,其中讀取與寫入能力最高可分別達(dá)到每秒23GB與每秒18GB。不過IBM方面并沒有給出訪問延遲數(shù)據(jù)。
IBM公司指出,KUKA機(jī)器人維修,庫(kù)卡機(jī)器人,POWER9服務(wù)器加FlashSystem900/NVMe-oFInfiniBand的組合能夠?yàn)槠髽I(yè)AI提供必需的低延遲與高傳輸帶寬,意味著其在性能表現(xiàn)上要優(yōu)于采用NVMe連接的其它一切x86服務(wù)器加閃存存儲(chǔ)陣列方案。然而由于延遲數(shù)字尚未提供,這樣的結(jié)論似乎很難令人信服。
評(píng)論意見:COTS配置能否與之匹敵?
Excelero公司為美國(guó)宇航局艾姆斯實(shí)驗(yàn)室打造的一套NVMeoverFabrics虛擬SAN系統(tǒng)可為4KIOPS提供平均199微秒的延遲水平,其最低延遲甚至僅為8微秒。這套系統(tǒng)的傳輸帶寬在1MB存儲(chǔ)塊大小的情況下可超過每秒140GB。
該系統(tǒng)擁有128個(gè)計(jì)算節(jié)點(diǎn),因此不能直接與IBM公司演示的單服務(wù)器進(jìn)行比較。盡管如此,我們還是能夠借此發(fā)現(xiàn)一些端倪,也許某家至強(qiáng)SP服務(wù)器供應(yīng)商會(huì)采用PCIe第四代總線、NVMeoverFabrics外加每秒100Gbit以太網(wǎng)連接全閃存陣列系統(tǒng)來觀察所能達(dá)到的性能峰值。




