-
華為云徐強(qiáng):迎接AI推理時(shí)代,大模型混合云煥新升級(jí)
最后更新: 2025-06-27 11:08:196月21日,在華為開(kāi)發(fā)者大會(huì)(HDC 2025)期間,“華為云Stack,智能時(shí)代更懂政企的云”高峰論壇成功舉行。華為混合云副總裁、產(chǎn)品管理部部長(zhǎng)徐強(qiáng)發(fā)表題為《大模型混合云,解鎖政企智能應(yīng)用無(wú)限可能》的演講。會(huì)上,他分享了華為云Stack在大模型混合云領(lǐng)域的進(jìn)展與成果,深度解讀了華為云Stack大模型混合云6大煥新升級(jí)能力,并重磅發(fā)布《政企AI平臺(tái)架構(gòu)及應(yīng)用實(shí)踐》白皮書。
華為混合云副總裁、產(chǎn)品管理部部長(zhǎng)徐強(qiáng)
大模型混合云持續(xù)進(jìn)化
當(dāng)前,技術(shù)變革日新月異,大模型以其獨(dú)特的技術(shù)與應(yīng)用優(yōu)勢(shì),已成為推動(dòng)各行業(yè)智能化轉(zhuǎn)型的核心引擎。然而在邁向智能化的征程中,政企仍面臨著諸多挑戰(zhàn)。徐強(qiáng)指出,一方面,政企存在大量敏感數(shù)據(jù)需要妥善保護(hù),“數(shù)據(jù)不出域”成為剛性要求;另一方面,構(gòu)建和運(yùn)行大模型所需的龐大算力與高昂成本,讓許多企業(yè)望而卻步。同時(shí),不同行業(yè)的業(yè)務(wù)場(chǎng)景千差萬(wàn)別,如何定制化打造貼合自身需求的智能應(yīng)用,也是擺在政企面前的一道難題。
基于此,華為云Stack打造大模型混合云方案,通過(guò)堅(jiān)實(shí)算力底座、使能百模千態(tài)、賦能千行萬(wàn)業(yè)三大能力,幫助企業(yè)一站式建設(shè)自己的專屬大模型,加速邁向智能化。
去年6月,華為云Stack發(fā)布大模型混合云十大創(chuàng)新技術(shù),迭代基礎(chǔ)設(shè)施、算法架構(gòu)和工程能力多維度根技術(shù),讓AI技術(shù)不難用;同時(shí)定義了AI平臺(tái)標(biāo)準(zhǔn)化的8大能力板塊,支撐百模千態(tài)和多樣化的開(kāi)發(fā)場(chǎng)景,讓AI創(chuàng)新變簡(jiǎn)單;9月,華為云Stack面向5大行業(yè)發(fā)布80+場(chǎng)景地圖,幫助客戶快速訓(xùn)好模型,讓AI落地更高效。
推理需求爆發(fā)式增長(zhǎng)
今年以來(lái),以 DeepSeek、Qwen3為代表的新一代大模型加速涌現(xiàn),推動(dòng)AI產(chǎn)業(yè)在多個(gè)維度發(fā)生深度變革。
首先,MoE架構(gòu)興起,逐步打破大模型性能、成本與易用性的“不可能三角”,在實(shí)現(xiàn)高效推理的同時(shí)降低了使用門檻,使AI技術(shù)真正走向普惠化。
其次,CoT(思維鏈)將Scaling Law從訓(xùn)練階段延伸到推理階段,在訓(xùn)練算力保持相對(duì)穩(wěn)定的情況下,將催生新的算力需求,同時(shí)還讓模型推理過(guò)程打破黑箱,更具可解釋性,加速AI在企業(yè)核心業(yè)務(wù)場(chǎng)景的落地。
第三,模型訓(xùn)練的范式也不斷演進(jìn),從單一的預(yù)測(cè)學(xué)習(xí)向強(qiáng)化學(xué)習(xí)遷移,從預(yù)訓(xùn)練逐步走向后訓(xùn)練,使模型對(duì)齊人類偏好,更具“個(gè)性化適配能力”。
第四,AI的應(yīng)用生態(tài)逐漸轉(zhuǎn)向開(kāi)源,產(chǎn)業(yè)創(chuàng)新的重心從封閉的模型本體轉(zhuǎn)向業(yè)務(wù)驅(qū)動(dòng)的應(yīng)用創(chuàng)新,推動(dòng)AI從“技術(shù)突破”邁向“價(jià)值創(chuàng)造”。
在這樣技術(shù)變革和推理需求快速增長(zhǎng)的背景下,算力底座和調(diào)度面臨新挑戰(zhàn)。需要軟硬件系統(tǒng)級(jí)協(xié)同優(yōu)化,結(jié)合模型架構(gòu)實(shí)現(xiàn)分布式彈性調(diào)度;通過(guò)PD分離實(shí)現(xiàn)資源解耦;以訓(xùn)推一體提升資源利用率,滿足系統(tǒng)低時(shí)延、高吞吐,全面提升推理效率。
同時(shí),AI開(kāi)發(fā)的工具鏈也亟待適配全新的后訓(xùn)練所需要的一站式數(shù)據(jù)、模型和應(yīng)用開(kāi)發(fā)能力,并能與開(kāi)源生態(tài)無(wú)縫對(duì)接,提升AI應(yīng)用的開(kāi)發(fā)效率與落地速度。
打造政企更優(yōu)AI平臺(tái)
迎接推理時(shí)代挑戰(zhàn),華為云Stack大模型混合云全面煥新升級(jí)6大能力,通過(guò)極致推理和精細(xì)化的運(yùn)營(yíng)運(yùn)維實(shí)現(xiàn)大規(guī)模算力高效調(diào)度和管理,提供一站式模型后訓(xùn)練和Agent開(kāi)發(fā)工具加速模型天級(jí)調(diào)優(yōu)、分鐘級(jí)部署和應(yīng)用,并預(yù)置政企專屬行業(yè)使能套件和全流程專業(yè)服務(wù),全方位加速智能應(yīng)用規(guī)模落地,加速AI場(chǎng)景價(jià)值閉環(huán)。
在極致推理方面,華為云Stack致力于推動(dòng)平臺(tái)軟件與算力硬件的深度適配,打造大規(guī)模集群“算力省”“上線快”“體驗(yàn)好”的極致推理服務(wù)。針對(duì)資源錯(cuò)峰復(fù)用場(chǎng)景,利用訓(xùn)推共池技術(shù),算力閑置時(shí)長(zhǎng)可下降50%;極致彈性伸縮場(chǎng)景下,借助推理部署加速技術(shù),推理服務(wù)5分鐘即可上線;而在規(guī)模并行推理場(chǎng)景,應(yīng)用大規(guī)模專家并行推理與PD分離技術(shù),優(yōu)異的吞吐與時(shí)延特性支持達(dá)成99%+SLO推理體驗(yàn)指標(biāo)。
在精細(xì)化運(yùn)營(yíng)方面,華為云Stack首創(chuàng)行業(yè)標(biāo)準(zhǔn)化AI算力度量指標(biāo)體系,提供40+算力度量指標(biāo)和120+全棧資源性能指標(biāo),可以管理萬(wàn)卡AI算力集群,同時(shí)支持客戶CXO評(píng)估算力使用價(jià)值和投入產(chǎn)出比、運(yùn)維人員分鐘級(jí)快速定界故障,以及運(yùn)營(yíng)人員實(shí)現(xiàn)安全合規(guī)的算力全生命周期管控,讓算力管理更高效、更可靠。
在模型后訓(xùn)練方面,面向數(shù)據(jù)和模型開(kāi)發(fā)工程師,華為云Stack構(gòu)建了一站式的后訓(xùn)練工具鏈,覆蓋數(shù)據(jù)、訓(xùn)練和評(píng)測(cè)階段,幫助企業(yè)打造專屬深度思考模型。
在Agent開(kāi)發(fā)方面,面向應(yīng)用落地最后一公里,華為云Stack提供Agent開(kāi)發(fā)平臺(tái),具備一站式知識(shí)中心、多智能體協(xié)作和低門檻開(kāi)發(fā)多重優(yōu)勢(shì),讓企業(yè)智能應(yīng)用開(kāi)發(fā)像搭積木一樣簡(jiǎn)單。
在行業(yè)使能套件方面,基于華為深入行業(yè)的實(shí)踐積累,華為云Stack圍繞7大行業(yè)沉淀了40+開(kāi)箱即用的Agent模板,助力業(yè)務(wù)分鐘級(jí)上線;同時(shí)提供工業(yè)AI引擎,聚焦視覺(jué)質(zhì)檢、工藝優(yōu)化、預(yù)測(cè)性維護(hù)和生產(chǎn)計(jì)劃4大核心領(lǐng)域打造了18個(gè)場(chǎng)景化工作流,使能政企更快速、更精準(zhǔn)地應(yīng)對(duì)復(fù)雜工業(yè)場(chǎng)景的挑戰(zhàn)。
在專業(yè)服務(wù)方面,面向模型供數(shù)、模型開(kāi)發(fā)、到模型應(yīng)用全流程需求,華為云Stack提供7大類30多項(xiàng)專業(yè)服務(wù)、自研AI工具鏈以及在實(shí)際交付項(xiàng)目中沉淀的服務(wù)經(jīng)驗(yàn),助力政企加快各行業(yè)場(chǎng)景大模型應(yīng)用的創(chuàng)新和迭代,讓大模型從可用到好用。
標(biāo)簽 華為- 責(zé)任編輯: 胡嘉燁 
-
新疆尤占軍,主動(dòng)投案
2025-06-27 11:00 廉政風(fēng)暴 -
臨走了還要抹黑,美國(guó)駐香港總領(lǐng)事被痛批
2025-06-27 10:59 香港 -
1-5月全國(guó)規(guī)上工業(yè)企業(yè)利潤(rùn)下降1.1%,5月單月下降9.1%
2025-06-27 10:22 -
整治“內(nèi)卷式”競(jìng)爭(zhēng),反不正當(dāng)競(jìng)爭(zhēng)法完成修訂
2025-06-27 09:10 依法治國(guó) -
李某因吸毒幻覺(jué)殺害3名親人,被執(zhí)行死刑
2025-06-26 22:14 禁毒戰(zhàn)爭(zhēng) -
“工人徒手掰斷鋼筋?”官方通報(bào)
2025-06-26 21:52 -
北京通報(bào):16人被問(wèn)責(zé)
2025-06-26 18:22 -
“1歲工作,22歲退休”!山西一疾控職工冒領(lǐng)養(yǎng)老金69萬(wàn)
2025-06-26 18:22 -
受賄1.22億,張祖林被判無(wú)期
2025-06-26 17:11 廉政風(fēng)暴 -
大象被同類霸凌數(shù)年?上海野生動(dòng)物園:已采取保護(hù)性舉措
2025-06-26 15:08 -
食品安全法擬修法,市場(chǎng)監(jiān)管總局局長(zhǎng)談及“罐車運(yùn)輸食用油亂象”
2025-06-26 14:47 食品安全 -
“禁止攜帶沒(méi)有3C標(biāo)識(shí)的充電寶乘坐境內(nèi)航班”
2025-06-26 13:30 -
國(guó)家發(fā)改委:第三批消費(fèi)品以舊換新資金將于7月下達(dá)
2025-06-26 10:59 -
中國(guó)30年期AAA級(jí)企業(yè)債收益率創(chuàng)2006年以來(lái)新低
2025-06-26 10:42 金融觀察 -
美日印,中國(guó)短劇的三大主要市場(chǎng)
2025-06-26 09:39 三十而勵(lì)白玉蘭 -
海南???、文昌升級(jí)發(fā)布暴雨紅色預(yù)警
2025-06-26 08:51 極端天氣 -
為維護(hù)聯(lián)系匯率制度,香港金管局兩年來(lái)首次買入港幣
2025-06-26 07:48 香港 -
青海省教育廳:堅(jiān)決與孫立明劃清界限
2025-06-25 22:44 廉政風(fēng)暴 -
涉案911億,主犯盤繼彪被判無(wú)期
2025-06-25 18:56 依法治國(guó) -
兩部門:禁止從西班牙、意大利輸入羊及其相關(guān)產(chǎn)品
2025-06-25 18:56
相關(guān)推薦 -
習(xí)近平:中方在TikTok問(wèn)題上的立場(chǎng)是清楚的 評(píng)論 7美媒挑事:巴基斯坦與中國(guó)很鐵,你細(xì)品… 評(píng)論 35“訓(xùn)練成本才這么點(diǎn)?美國(guó)同行陷入自我懷疑” 評(píng)論 108中美高層本月頻繁互動(dòng),什么信號(hào)? 評(píng)論 80“為跟中方談,特朗普拒批4億美元對(duì)臺(tái)軍援” 評(píng)論 121最新聞 Hot
-
美媒挑事:巴基斯坦與中國(guó)很鐵,你細(xì)品…
-
“中方最嚴(yán)厲的公開(kāi)回應(yīng)”
-
“挑戰(zhàn)中國(guó)主導(dǎo),美國(guó)把手伸向贊比亞”
-
“訓(xùn)練成本才這么點(diǎn)?美國(guó)同行陷入自我懷疑”
-
普京罕見(jiàn)透露前線俄軍人數(shù)
-
加拿大饞哭了:中國(guó)又從澳方買了,一買就是9船…
-
以防長(zhǎng)威脅:胡塞,你的死期到了
-
主謀已落網(wǎng)
-
簽了!“中國(guó)發(fā)動(dòng)機(jī)替代德國(guó)產(chǎn)品”
-
“對(duì)農(nóng)民來(lái)說(shuō),無(wú)異于千刀萬(wàn)剮!好好和中國(guó)談吧”
-
印媒越吹越離譜:陣風(fēng)領(lǐng)先殲-35A...
-
白宮AI顧問(wèn)急了:這正中華為下懷,居心何在?
-
“為跟中方談,特朗普拒批4億美元對(duì)臺(tái)軍援”
-
針對(duì)個(gè)別“反華”集會(huì),韓總理緊急指令
-
日本空自一架搜救機(jī)降落時(shí)沖出跑道,暫無(wú)人員傷亡
-
獨(dú)山縣委書記李景寬任上被查
-