觀察員
-
華為將首次展出“算力核彈”真機(jī)
觀察者網(wǎng)獲悉，本次世界人工智能大會（WAIC），華為將首次線下展出昇騰384超節(jié)點(diǎn)真機(jī)。
隨著大模型訓(xùn)練和推理對算力需求的爆炸式增長，傳統(tǒng)計算架構(gòu)已難以支撐AI技術(shù)的代際躍遷。華為昇騰384超節(jié)點(diǎn)，首創(chuàng)將384顆昇騰NPU和192顆鯤鵬CPU通過全新高速網(wǎng)絡(luò)MatrixLink全對等互聯(lián)，形成一臺超級“AI服務(wù)器”，單卡推理吞吐量躍升到2300 Tokens/s。
在高速互聯(lián)總線聯(lián)接下，昇騰384超節(jié)點(diǎn)共由12個計算柜和4個總線柜構(gòu)成，是目前業(yè)界最大規(guī)模的超節(jié)點(diǎn)，算力總規(guī)模達(dá)300Pflops，是英偉達(dá)NVL72的1.7倍；網(wǎng)絡(luò)互聯(lián)總帶寬達(dá)269TB/s，比英偉達(dá)NVL72提升107%；內(nèi)存總帶寬達(dá)1229TB/s，比英偉達(dá)NVL72提升113%。 更重要的是，通過最佳負(fù)載均衡組網(wǎng)等方案，昇騰超節(jié)點(diǎn)還能進(jìn)一步擴(kuò)展為包含數(shù)萬卡的Atlas 900 SuperCluster超節(jié)點(diǎn)集群，未來可以支撐更大規(guī)模的模型演進(jìn)。
并且，超節(jié)點(diǎn)架構(gòu)還能更好地支持混合專家MoE大模型的推理，可以實(shí)現(xiàn)“一卡一專家”，一個超節(jié)點(diǎn)可以支持384個專家并行推理，極大提升效率。同時，超節(jié)點(diǎn)還可以支持“一卡一算力任務(wù)”，靈活分配資源，提升任務(wù)并行處理，減少等待，將算力有效使用率（MFU）提升50%以上。
本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。
標(biāo)簽 華為云- 責(zé)任編輯: 胡嘉燁
-
“雪糕刺客”鐘薛高：從高端狂飆到破產(chǎn)收場
2025-07-18 14:57 觀網(wǎng)財經(jīng)-消費(fèi) -
華住躋身全球酒店集團(tuán)排行榜第四
2025-07-18 14:55 觀網(wǎng)財經(jīng)-消費(fèi) -
當(dāng)布鞋首富人設(shè)崩塌——宗慶后遺產(chǎn)風(fēng)波中的時代鏡像
2025-07-18 14:36 觀網(wǎng)財經(jīng)-消費(fèi) -
-
直播：TOYCITY首個Ai陪伴玩偶全球首發(fā)
2025-07-18 12:38 觀網(wǎng)財經(jīng)-科創(chuàng) -
-
“飛書認(rèn)證”成招聘新門檻？企業(yè)數(shù)字化催生人才要求變化
2025-07-18 12:06 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
-
迪卡儂試衣間門縫驚現(xiàn)攝像頭
2025-07-18 10:59 觀網(wǎng)財經(jīng)-消費(fèi) -
臺積電單季凈利潤近千億，稱美國解禁H20是好消息
2025-07-18 10:15 觀網(wǎng)財經(jīng)-科創(chuàng) -
黃仁勛有意再來鏈博會；蘋果申請自研芯片C1商標(biāo)；我國發(fā)現(xiàn)新稀土
2025-07-18 08:42 -
“今年中國的投資數(shù)據(jù)，令人驚訝”
2025-07-17 23:52 -
上半年凈利跌超九成的酒鬼酒，胖東來能帶得動嗎？
2025-07-17 17:53 觀網(wǎng)財經(jīng)-消費(fèi) -
3年多虧掉3億多，“紅棗第一股”好想你上半年還是沒扭虧
2025-07-17 16:47 -
“華爾街收購之王”接近拿下“國潮汽水”大窯
2025-07-17 14:20 觀網(wǎng)財經(jīng)-消費(fèi) -
上海：打造RISC-V產(chǎn)業(yè)集聚區(qū)
2025-07-17 11:32 觀網(wǎng)財經(jīng)-科創(chuàng) -
黃仁勛稱被華為AI芯片取代只是時間問題；MiniMax秘密提交在港IPO；
2025-07-17 08:48 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
賣的越多、賺的更少？水井坊上半年凈利潤“腰斬”
2025-07-16 21:42 觀網(wǎng)財經(jīng)-消費(fèi) -
“關(guān)稅大棒”揮向巴西，咖啡商：傷害的是美國企業(yè)
2025-07-16 19:57 觀網(wǎng)財經(jīng)-消費(fèi) -
蘋果5億美元押注美國唯一稀土商
2025-07-16 18:13 觀網(wǎng)財經(jīng)-科創(chuàng)
相關(guān)推薦 -
最新聞 Hot
-
美媒挑事：巴基斯坦與中國很鐵，你細(xì)品…
-
“中方最嚴(yán)厲的公開回應(yīng)”
-
“挑戰(zhàn)中國主導(dǎo)，美國把手伸向贊比亞”
-
“訓(xùn)練成本才這么點(diǎn)？美國同行陷入自我懷疑”
-
普京罕見透露前線俄軍人數(shù)
-
加拿大饞哭了：中國又從澳方買了，一買就是9船…
-
以防長威脅：胡塞，你的死期到了
-
主謀已落網(wǎng)
-
簽了！“中國發(fā)動機(jī)替代德國產(chǎn)品”
-
“對農(nóng)民來說，無異于千刀萬剮！好好和中國談吧”
-
印媒越吹越離譜：陣風(fēng)領(lǐng)先殲-35A...
-
白宮AI顧問急了：這正中華為下懷，居心何在？
-
“為跟中方談，特朗普拒批4億美元對臺軍援”
-
針對個別“反華”集會，韓總理緊急指令
-
日本空自一架搜救機(jī)降落時沖出跑道，暫無人員傷亡
-
獨(dú)山縣委書記李景寬任上被查
-
- 聯(lián)系我們
- 關(guān)于我們
- 版權(quán)聲明
- 服務(wù)條款
- 刊登廣告
- 聯(lián)系微博
- 加入我們
- 網(wǎng)站地圖
- 舉報鏈接
- 舉報制度規(guī)范
- 《網(wǎng)站自律管理承諾書》
Copyright ? 2014-2024 觀察者 All rights reserved。
滬ICP備10213822號-2 互聯(lián)網(wǎng)新聞信息服務(wù)許可證：31220170001
網(wǎng)登網(wǎng)視備（滬）02020000041-1號 互聯(lián)網(wǎng)宗教信息服務(wù)許可證：滬（2024）0000009
廣播電視節(jié)目制作經(jīng)營許可證：（滬）字第03952號
增值電信業(yè)務(wù)經(jīng)營許可證：滬B2-20210968 違法及不良信息舉報電話：021-62376571
滬公網(wǎng)安備 31010502000027號
中國互聯(lián)網(wǎng)舉報中心
上海市互聯(lián)網(wǎng)違法與不良信息舉報中心
