国产精品久久精品牛牛影视-国产精品久久精品视-国产精品久久九九-国产精品久久久-国产精品久久久99

隨著數(shù)據(jù)中心成為一個(gè)新的計(jì)算單元，數(shù)據(jù)處理器有更多的用途。英偉達(dá)的BlueField系列DPU由DOCA（Data-Center-Infrastructure-On-A-Chip Architecture）支持軟件框架，可以實(shí)現(xiàn)更好的網(wǎng)絡(luò)、存儲(chǔ)和安全性能。作為一款為BlueField DPU量身定制的軟件開(kāi)發(fā)框架，DOCA旨在為開(kāi)發(fā)者提供全面開(kāi)放的開(kāi)發(fā)套件，支持開(kāi)發(fā)者BlueField DPU基于簡(jiǎn)單靈活的軟件開(kāi)發(fā)，快速創(chuàng)建BlueField DPU高性能應(yīng)用程序和服務(wù)加速。

芯片采購(gòu)網(wǎng)專(zhuān)注于整合國(guó)內(nèi)外授權(quán)IC代理商現(xiàn)貨資源，芯片庫(kù)存實(shí)時(shí)查詢(xún)，行業(yè)價(jià)格合理，采購(gòu)方便IC芯片，國(guó)內(nèi)專(zhuān)業(yè)芯片采購(gòu)平臺(tái)。

“DOCA依靠未來(lái)，API構(gòu)建驅(qū)動(dòng)思維模式，可以讓BlueField DPU硬件加速器更容易使用，實(shí)現(xiàn)數(shù)據(jù)中心的非凡性能、效率和安全性，解鎖數(shù)據(jù)中心的創(chuàng)新功能，更好地與下一代兼容BlueField DPU，提供持續(xù)支持，加快應(yīng)用程序和服務(wù)的上市時(shí)間，釋放DPU的潛力。”NVIDIA網(wǎng)絡(luò)技術(shù)專(zhuān)家崔巖說(shuō)：NVIDIA在發(fā)展BlueField DPU同時(shí)，也在積極發(fā)展DOCA這與我們以前的發(fā)展有關(guān)GPU同時(shí)發(fā)展CUDA生態(tài)是同工之妙。”

今年5月，NVIDIA上線(xiàn)了DOCA 1.3版本提供了121個(gè)新版本API開(kāi)發(fā)界面，增加更多的增強(qiáng)和新功能，包括優(yōu)化數(shù)據(jù)流插入DOCA Flow庫(kù)、通信通道庫(kù)、正則表達(dá)式庫(kù)App Shield SDK、基于OVN的IPSec加密完全卸載，以及一些DOCA服務(wù)，例如HBN三層路由功能在主機(jī)上實(shí)現(xiàn)。借助DOCA 1.3.開(kāi)發(fā)者不僅可以在本地BlueField DPU上或X在86容器中建立開(kāi)發(fā)環(huán)境也可以獲得一致的開(kāi)發(fā)體驗(yàn)，可以統(tǒng)一訪(fǎng)問(wèn)BlueField DPU簡(jiǎn)化網(wǎng)絡(luò)、存儲(chǔ)、安全和基礎(chǔ)設(shè)施管理服務(wù)相關(guān)的開(kāi)發(fā)。同時(shí)，NVIDIA它還為開(kāi)發(fā)者提供了基于底層的基礎(chǔ)API先進(jìn)的抽象和包裝API除了容器化，庫(kù)可以大大降低開(kāi)發(fā)時(shí)間，更快地獲得收入。DOCA服務(wù)，可以在BlueField DPU直接部署應(yīng)用程序。

DOCA軟件棧

DOCA 1.3中的正則表達(dá)式庫(kù)稱(chēng)為Regular Expression（RegEx），它是多腳本語(yǔ)言的標(biāo)準(zhǔn)模式匹配工具，可以創(chuàng)建與文本模式相匹配的過(guò)濾器，而不僅僅是單個(gè)單詞或短語(yǔ)的匹配。正則表達(dá)式是專(zhuān)門(mén)為高吞吐量、低延遲和深度包檢測(cè)而設(shè)計(jì)的。這些應(yīng)用程序需要通過(guò)正則表達(dá)式模式匹配和字符串通過(guò)正則表達(dá)式模式匹配和字符串實(shí)現(xiàn)相應(yīng)的應(yīng)用功能。正則表達(dá)式也可以實(shí)現(xiàn)安全GigaDevice代理遙測(cè)功能，可在DOCA 1.3.提供識(shí)別、入侵防御系統(tǒng)等安全應(yīng)用，URL過(guò)濾、文件掃描、深度數(shù)據(jù)包檢測(cè)App Shield內(nèi)存掃描等，為安全軟件開(kāi)發(fā)提供底層API支持。

借助基于OVN可用于不同主機(jī)之間的數(shù)據(jù)路徑加密功能IPsec創(chuàng)建不同的數(shù)據(jù)加密隧道，以確保數(shù)據(jù)在主機(jī)之間傳輸時(shí)處于加密狀態(tài)。當(dāng)數(shù)據(jù)到達(dá)主機(jī)時(shí)，BlueField DPU將其解密成明文，然后將明文數(shù)據(jù)傳輸?shù)街鳈C(jī)側(cè)，為負(fù)載和應(yīng)用程序提供數(shù)據(jù)。

在NVIDIA BlueField DPU基于主機(jī)的網(wǎng)絡(luò)（HBN）有助于管理和監(jiān)控同一節(jié)點(diǎn)虛擬機(jī)和容器之間的流量。如果在服務(wù)器主機(jī)上創(chuàng)建多個(gè)虛擬機(jī)或多個(gè)容器，它們之間會(huì)有一些數(shù)據(jù)流，無(wú)論是二層數(shù)據(jù)流還是三層路由功能，都可以基于主機(jī)網(wǎng)絡(luò)DOCA服務(wù)在BlueField DPU進(jìn)出節(jié)點(diǎn)的流量可以進(jìn)行分析和加密，也會(huì)有一些原本依賴(lài)的東西TOR開(kāi)關(guān)上的功能也在BlueField DPU改變了數(shù)據(jù)中心網(wǎng)絡(luò)建設(shè)的方式。

OVN加密數(shù)據(jù)路徑

胡效赫是大學(xué)的開(kāi)發(fā)者，他的團(tuán)隊(duì)參加了首屆會(huì)議NVIDIA DPU中國(guó)黑客松比賽獲得亞軍。我們的團(tuán)隊(duì)由一名博士后和兩名博士生組成，研究方向是云計(jì)算、分布式系統(tǒng)和高性能計(jì)算。DPU從2020年開(kāi)始，我們作為數(shù)據(jù)中心的重要組成部分BlueField DPU發(fā)布后一直在關(guān)注，今年參加黑客松是為了進(jìn)一步學(xué)習(xí)和參與DPU相關(guān)開(kāi)發(fā)，對(duì)DOCA的API深入定制開(kāi)發(fā)，實(shí)現(xiàn)更好的性能和更豐富的功能，并與指導(dǎo)專(zhuān)家和其他團(tuán)隊(duì)進(jìn)行更多的溝通。胡效赫說(shuō)。

據(jù)了解，該團(tuán)隊(duì)的項(xiàng)目起點(diǎn)是關(guān)注基礎(chǔ)設(shè)施的業(yè)務(wù)可觀性，并提出DeepTrace項(xiàng)目-面向DPU網(wǎng)包級(jí)函數(shù)粒度業(yè)務(wù)可觀測(cè)性驅(qū)動(dòng)的基礎(chǔ)設(shè)施。以DOCA提供的NetFlow基于粗粒度的可觀測(cè)性，對(duì)應(yīng)DOCA Netflow API庫(kù)，結(jié)合DPU高性能網(wǎng)絡(luò)處理功能對(duì)應(yīng)DPU的ASAP2網(wǎng)包分類(lèi)引擎和DOCA Flow API庫(kù)的數(shù)據(jù)平面和控制平面的可編程能力，將可觀測(cè)性強(qiáng)度提高到網(wǎng)包級(jí)，并準(zhǔn)確地提高到每個(gè)函數(shù)功能，性能損失幾乎可以忽略不計(jì)。

在DeepTrace在項(xiàng)目的系統(tǒng)架構(gòu)中，業(yè)務(wù)流量首先通過(guò)DeepTrace預(yù)選器，然后通過(guò)原始DPU處理程序，在DPU調(diào)用程序DeepTrace觸發(fā)器實(shí)現(xiàn)相應(yīng)點(diǎn)的觀測(cè)，通過(guò)數(shù)據(jù)的重組和分析，到相應(yīng)的結(jié)果，如異常流量檢測(cè)、業(yè)務(wù)問(wèn)題定位等。

其中，觸發(fā)器部分的挑戰(zhàn)是如何以最低的成本收集鏈函數(shù)和網(wǎng)絡(luò)包信息。上述團(tuán)隊(duì)采用的方案是在統(tǒng)一和輕量級(jí)的函數(shù)中實(shí)現(xiàn)觸發(fā)器DOCA NetFlow庫(kù)修改為網(wǎng)包粒度，需要觀察的函數(shù)API調(diào)用觸發(fā)器的形式。在預(yù)選器部分的挑戰(zhàn)是如何處理大規(guī)模的原始流量，并在函數(shù)鏈中記錄網(wǎng)絡(luò)包。該團(tuán)隊(duì)采用的方案是通過(guò)硬件卸載的預(yù)選器進(jìn)行標(biāo)記和過(guò)濾。在開(kāi)發(fā)過(guò)程中，調(diào)用DOCA Flow實(shí)現(xiàn)庫(kù)配置所需的預(yù)選規(guī)則。由分析器部分操作ARM實(shí)現(xiàn)控制平面開(kāi)源開(kāi)放工程。

胡效赫說(shuō)：通過(guò)專(zhuān)家的指導(dǎo)，我們對(duì)此有了更充分的了解DPU積累了軟硬件特性DPU其他團(tuán)隊(duì)也看到了開(kāi)發(fā)經(jīng)驗(yàn)DPU創(chuàng)新實(shí)踐。這次經(jīng)歷是基于我們的后續(xù)工作DPU研究提供了很好的幫助。”相應(yīng)的，DPU中國(guó)虛擬黑客松比賽也能刺激DOCA在NVIDIA BlueField DPU和NVIDIA DOCA在應(yīng)用場(chǎng)景中，包括分布式存儲(chǔ)、數(shù)據(jù)流跟蹤分析、裸金屬云管理、RDMA數(shù)據(jù)包加解密等。下一步，NVIDIA計(jì)劃在今年下半年舉行第二屆會(huì)議DPU中國(guó)虛擬黑客松活動(dòng)。

目前，世界上有一半以上的人DOCA來(lái)自中國(guó)的社區(qū)注冊(cè)開(kāi)發(fā)者。自去年成立以來(lái)，DOCA社區(qū)先后為國(guó)內(nèi)開(kāi)發(fā)商開(kāi)放BBS官方論壇、DOCA以及文檔庫(kù)DOCA在微信微信官方賬號(hào)后臺(tái)和知乎等知識(shí)平臺(tái)上，微信群積極回答相關(guān)問(wèn)題。另外，考慮到開(kāi)發(fā)者可能沒(méi)有DPU驗(yàn)證自己的程序，NVIDIA會(huì)通過(guò)與合作伙伴聯(lián)合成立DPU & DOCA提供測(cè)試和驗(yàn)證代碼的優(yōu)秀中心。麗臺(tái)(上海)信息科技有限公司和上海鑫鴻智能科技有限公司是參與卓越中心試運(yùn)行的合作伙伴。

由優(yōu)秀中心提供DOCA開(kāi)發(fā)環(huán)境有三個(gè)關(guān)鍵點(diǎn)：一是可遠(yuǎn)程訪(fǎng)問(wèn)的免費(fèi)開(kāi)發(fā)環(huán)境，或運(yùn)行已開(kāi)發(fā)的程序；二是提供程序編譯、操作和相應(yīng)測(cè)試的完整開(kāi)發(fā)平臺(tái)；三是主要支持中國(guó)DOCA開(kāi)發(fā)者，加快應(yīng)用創(chuàng)新。同時(shí)，優(yōu)秀中心的工程師和NVIDIA專(zhuān)家也會(huì)提供相關(guān)的技術(shù)幫助。各優(yōu)秀中心的運(yùn)營(yíng)公司將提供兩套開(kāi)發(fā)環(huán)境，因此在早期階段將有四套開(kāi)發(fā)環(huán)境供免費(fèi)使用，DOCA開(kāi)發(fā)人員需要自己登錄設(shè)備和相應(yīng)的軟硬件環(huán)境，優(yōu)秀的中心將提供完整的軟硬件DOCA開(kāi)發(fā)環(huán)境。

DOCA周一至周四9:00-15:00開(kāi)放開(kāi)發(fā)環(huán)境。申請(qǐng)人可向卓越中心提交申請(qǐng)，審批后2-6小時(shí)免費(fèi)開(kāi)發(fā)環(huán)境。需要注意的是，每次申請(qǐng)延長(zhǎng)每次申請(qǐng)批準(zhǔn)后的時(shí)間。例如，在申請(qǐng)4小時(shí)后，如果4小時(shí)即將用完，則無(wú)法延長(zhǎng)2小時(shí)。您需要再次啟動(dòng)申請(qǐng)。截至今年年底，每個(gè)開(kāi)發(fā)者總使用時(shí)間不超過(guò)10小時(shí)。開(kāi)發(fā)人員在申請(qǐng)免費(fèi)開(kāi)發(fā)環(huán)境時(shí)，需要提前48小時(shí)發(fā)郵件，讓后臺(tái)工程師分配系統(tǒng)資源和環(huán)境。

一直以來(lái)，NVIDIA都是開(kāi)源領(lǐng)域的積極貢獻(xiàn)者，網(wǎng)絡(luò)市場(chǎng)也是如此，包括SONiC、OVS、DPDK、OpenMPI等等，在整個(gè)Linux社區(qū)是第三大貢獻(xiàn)者DPDK和SPDK社區(qū)的第二大貢獻(xiàn)者Linux OPI項(xiàng)目創(chuàng)始成員。DOCA開(kāi)放API和庫(kù)后，開(kāi)發(fā)者可以通過(guò)相關(guān)界面更方便地編寫(xiě)應(yīng)用程序的中間層DPU特點(diǎn)包括硬件卸載、正則表達(dá)式、RDMA等。

NVIDIA網(wǎng)絡(luò)營(yíng)銷(xiāo)總監(jiān)孟慶說(shuō)：我們將在那里OPI與基金會(huì)做出相應(yīng)貢獻(xiàn)，做出全部貢獻(xiàn)DOCA開(kāi)放出來(lái)。上層的東西，包括一些安全功能、存儲(chǔ)加速、網(wǎng)絡(luò)硬件卸載等特點(diǎn)，都會(huì)開(kāi)放，無(wú)論是客戶(hù)，ISV，還是合作伙伴，OEM制造商可以在開(kāi)放的架構(gòu)上編寫(xiě)應(yīng)用程序。這里指的不僅僅是網(wǎng)絡(luò)程序，而是一個(gè)大的數(shù)據(jù)中心管理程序，它將被調(diào)用DOCA這樣的框架。”

如今，NVIDIA BlueField DPU作為核心部件應(yīng)用NVIDIA包括認(rèn)證系統(tǒng)HGX、EGX和OVX，為這些認(rèn)證系統(tǒng)平臺(tái)提供加速以太網(wǎng)或InfiniBand同時(shí)連接解決方案NVIDIA Spectrum端到端以太網(wǎng)平臺(tái)或Quantum InfiniBand網(wǎng)絡(luò)平臺(tái)，為現(xiàn)代數(shù)據(jù)中心的工作負(fù)荷提供準(zhǔn)確、高性能、先進(jìn)的安全和豐富的功能，構(gòu)建AI工廠(chǎng)的核心骨干網(wǎng)絡(luò)大力支持上層系統(tǒng)軟件、高性能計(jì)算、人工智能和虛擬仿真平臺(tái)的應(yīng)用，在云計(jì)算、網(wǎng)絡(luò)安全、存儲(chǔ)、管理平臺(tái)和邊緣計(jì)算等領(lǐng)域構(gòu)建全面的生態(tài)解決方案。

從2023年開(kāi)始，全球相關(guān)數(shù)據(jù)顯示DPU市場(chǎng)規(guī)模將超過(guò)100億美元，進(jìn)入年增長(zhǎng)率超過(guò)50%的快車(chē)道。2023年，中國(guó)的DPU市場(chǎng)規(guī)模將超過(guò)300億元，增長(zhǎng)潛力巨大。具體來(lái)說(shuō)，DPU 大規(guī)模應(yīng)用主要面向三個(gè)方面：通過(guò)數(shù)據(jù)中心加速計(jì)算模型帶來(lái)的大規(guī)模應(yīng)用，DPU能夠?yàn)镃PU業(yè)務(wù)應(yīng)用負(fù)載和GPU人工智能和機(jī)器學(xué)習(xí)負(fù)載提供數(shù)據(jù)傳輸和數(shù)據(jù)處理，性能成本比、基礎(chǔ)設(shè)施通用性和軟硬件可迭代成為關(guān)注因素；定制客戶(hù)數(shù)據(jù)中心基礎(chǔ)設(shè)施應(yīng)用場(chǎng)景設(shè)計(jì)，大規(guī)模部署DPU滿(mǎn)足特定應(yīng)用場(chǎng)景的需求，解決問(wèn)題；通過(guò)生態(tài)系統(tǒng)帶來(lái)的大規(guī)模應(yīng)用，基于開(kāi)放和標(biāo)準(zhǔn)化平臺(tái)提供創(chuàng)新應(yīng)用的一般集成解決方案可以集成和部署。

可以看到，DPU它圍繞著數(shù)據(jù)在數(shù)據(jù)中心和應(yīng)用場(chǎng)景中的一系列特征應(yīng)運(yùn)而生DOCA就像是DPU靈魂，兩者的結(jié)合可以發(fā)揮最大的作用。硬件方面，DPU可作為獨(dú)立芯片或板卡或額外芯片集成GPU或CPU可根據(jù)實(shí)際應(yīng)用場(chǎng)景定制客戶(hù)個(gè)性化的購(gòu)買(mǎi)和部署自由。同時(shí)，與之相匹配DOCA借助全面開(kāi)放的開(kāi)發(fā)套件，最大限度地減少了基于的開(kāi)發(fā)套件BlueField DPU加快業(yè)務(wù)創(chuàng)新，最大化業(yè)務(wù)價(jià)值，開(kāi)發(fā)門(mén)檻和成本。