
Nvidia在其年度GTC會(huì)議宣布了一系列AI是重點(diǎn)企業(yè)產(chǎn)品。它包括其新的硅結(jié)構(gòu)Hopper第一個(gè)使用該架構(gòu)的數(shù)據(jù)中心GPU H100;一個(gè)新的Grace CPU "超級(jí)芯片";該公司聲稱將建立世界上最快的AI超級(jí)計(jì)算機(jī)的模糊計(jì)劃被稱為Eos。
芯片采購(gòu)網(wǎng)專注于整合國(guó)內(nèi)外授權(quán)IC代理商現(xiàn)貨資源,芯片庫(kù)存實(shí)時(shí)查詢,行業(yè)價(jià)格合理,采購(gòu)方便IC芯片,國(guó)內(nèi)專業(yè)芯片采購(gòu)平臺(tái)。
Nvidia從過(guò)去十年的人工智能熱潮中受益匪淺GPU數(shù)據(jù)密集型深度學(xué)習(xí)方法被證明是流行的完美匹配。Nvidia表示,隨著AI該領(lǐng)域?qū)?shù)據(jù)計(jì)算需求的增長(zhǎng)希望提供更多的火力。
特別是,該公司強(qiáng)調(diào)了機(jī)器學(xué)習(xí)系統(tǒng)的普及,稱為變形金剛。為從OpenAI的GPT-三等語(yǔ)言模型DeepMind的AlphaFold等待醫(yī)療系統(tǒng)提供動(dòng)力。這類模型的規(guī)模在幾年內(nèi)呈指數(shù)級(jí)增長(zhǎng)。例如,當(dāng)OpenAI在2019年推出GPT-2.它包含15億參數(shù)(或連接)。兩年后谷歌訓(xùn)練類似模型時(shí),使用了1.6萬(wàn)億參數(shù)。
隨著AI要求更多的計(jì)算機(jī),Nvidia希望提供它
"訓(xùn)練這些巨型模型仍然需要幾個(gè)月的時(shí)間,"Nvidia高級(jí)產(chǎn)品管理總監(jiān)Paresh Kharya在新聞發(fā)布會(huì)上說(shuō)。"所以你解雇了一份工作,等了一個(gè)半月,看看會(huì)發(fā)生什么。縮短訓(xùn)練時(shí)間的心的增加,縮短訓(xùn)練時(shí)間的一個(gè)關(guān)鍵挑戰(zhàn)是GPU性能收入的數(shù)量開(kāi)始下降。"
Nvidia表示,新的Hopper架構(gòu)將有助于改善這些困難。該架構(gòu)是計(jì)算機(jī)科學(xué)家和美國(guó)海軍少將的先驅(qū)Grace Hopper與上一代芯片相比,該架構(gòu)是專門用于命名的H100 GPU新的第四代加速變形金剛模型的訓(xùn)練Nivida NVlink多達(dá)256可連接H100 GPU,帶寬是上一代的9倍。
H100 GPU它本身包含800億晶體管,是第一個(gè)支持PCle Gen5和利用HBM3的GPU,使內(nèi)存帶寬達(dá)到3TB/s。Nvidia表示,H100 GPU在FP16、FP32和FP與上一代相比,64計(jì)算方面與上一代相比A100快三倍,8位浮點(diǎn)數(shù)學(xué)快六倍。
"訓(xùn)練巨型變形金剛模型,H過(guò)去幾周的訓(xùn)練將提供高達(dá)9倍的性能,"Kharya說(shuō)。
該公司還宣布了一個(gè)新的數(shù)據(jù)中心CPU--Grace CPU有兩個(gè)超級(jí)芯片CPU通過(guò),通過(guò)新的低延遲NVLink-C2C直接連接。該芯片旨在與新的基礎(chǔ)相結(jié)合Hopper的GPU一起 "服務(wù)于巨型HPC和AI應(yīng)用",并可用于純CPU系統(tǒng)或GPU加速服務(wù)器。它有144個(gè)Arm核心和1TB/s內(nèi)存帶寬。
新的格雷斯CPU "超級(jí)芯片 "由兩個(gè)CPU連接而成。
除硬件和基礎(chǔ)設(shè)施新聞外,Nvidia它還宣布了各種企業(yè)人工智能軟件服務(wù)的更新,包括Maxine(提供音頻和視頻增強(qiáng)功能SDK,和Riva(用于語(yǔ)音識(shí)別和文本語(yǔ)音轉(zhuǎn)換SDK)。
該公司還預(yù)測(cè),它正在建造一臺(tái)新的人工智能超級(jí)計(jì)算機(jī),聲稱它將是世界上最快的部署。這臺(tái)名為Eos將采用超級(jí)計(jì)算機(jī)Hopper結(jié)構(gòu)包括約4600個(gè)H100 GPU,提供18.4 exaflops的 "AI性能"。該系統(tǒng)將只用于Nvidia該公司表示,內(nèi)部研究將在幾個(gè)月后上線。
在過(guò)去的幾年里,一些對(duì)人工智能感興趣的公司成立或宣布了自己的內(nèi)部 "超級(jí)人工智能計(jì)算機(jī)",微軟、特斯拉和Meta。由于其運(yùn)行精度低,這些系統(tǒng)與普通超級(jí)計(jì)算機(jī)沒(méi)有直接的可比性,這使得一些公司能夠通過(guò)宣布世界上最快的超級(jí)計(jì)算機(jī)快速跨越。
然而,在他的主題演講中,Nvidia首席執(zhí)行官黃仁勛的確CotoTechnology代理實(shí)表示,Eos275 petaFLOPS的計(jì)算量--比 "美國(guó)最快的科學(xué)計(jì)算機(jī)"(Summit)快1.4倍。"我們期望Eos成為世界上最快的人工智能計(jì)算機(jī),"黃說(shuō)。"Eos會(huì)成為我們的OEM和云合作伙伴最先進(jìn)AI基礎(chǔ)設(shè)施藍(lán)圖"。
- 智能網(wǎng)卡到底有什么作用?
- 《IDC PeerScape:中國(guó)數(shù)字供應(yīng)鏈運(yùn)營(yíng)領(lǐng)導(dǎo)者實(shí)踐報(bào)告正式發(fā)布
- 鼎陽(yáng)科技創(chuàng)新研發(fā)高端通用電子測(cè)試測(cè)量?jī)x器
- 吉利正在開(kāi)發(fā)支持里程需求較長(zhǎng)的電池組,快速充電時(shí)間可縮短到15分鐘
- 恩智浦使用MCUXpresso SEC安全制造工具和智能卡
- 美國(guó)商務(wù)部調(diào)查了軟件巨頭:里通華為海思很難指望EDA軍團(tuán)集體攻擊
- 比科奇PC802 5G小基站基帶SoC漸漸好了,很多客戶都完成了樣機(jī)設(shè)計(jì)
- vRAN優(yōu)秀的處理能力和超高能效將滿足未來(lái)的數(shù)據(jù)需求
- 由科學(xué)家用線蟲制成的芯片可以更快更準(zhǔn)確地檢測(cè)癌癥
- 巴西專家:聯(lián)合國(guó)無(wú)法控制互聯(lián)網(wǎng),因?yàn)槊绹?guó)認(rèn)為它是自留地
- 到2025年,英特爾第三季度的財(cái)務(wù)報(bào)告將降低100億美元
- NVIDIA悄悄通知AIC:芯片降價(jià)!
