觀察員
-
AI落地的關(guān)鍵堵點，華為用“黑科技”打通了
-
呂棟lvdong@guancha.cn
但當下英偉達正陷入 “后門”風波，信任危機下，行業(yè)更呼喚中國方案。
“ 分級緩存管理很多人在做， UCM最大的差異化是將專業(yè)的存儲 納入進來。 ”華為技術(shù)專家對觀察者網(wǎng)表示，華為通過大量的軟硬協(xié)同和卸載，比如KV檢索的索引和KV Cache生命周期管理等，構(gòu)建了在分級緩存管理上的差異化能力，“業(yè)界很多方案在算法加速庫這一層只有傳統(tǒng)的Prefix Cache，并沒有像今天這樣去商用全流程地稀疏、后綴檢索算法以及其他一系列的算法，所以中間的算法庫上面，我們相對業(yè)界貢獻了非常多、更加豐富、更加可靠、加速效果更好的算法，并且這個算法庫還在持續(xù)增加當中?！?
關(guān)注大模型的可能都知道，華為之前開源了 AI框架MindSpore，近期又開源了對標英偉達CUDA的神經(jīng)網(wǎng)絡(luò)異構(gòu)計算架構(gòu)CANN，而這次華為再度宣布，將在9月開源UCM。
從架構(gòu)上看，華為的 UCM解決方案主要有三大組件構(gòu)成： 對接不同引擎與算力的推理引擎插件（ Connector）、支持多級KV Cache管理及加速算法的功能庫（Accelerator） 和 高性能 KV Cache存取適配器（Adapter） ，實現(xiàn)了 推理框架、算力、存儲三層協(xié)同 。
通過開放統(tǒng)一的南北向接口， UCM可適配多類型推理引擎框架、算力及存儲系統(tǒng)。對于推理引擎框架開發(fā)者而言，UCM開放的接口使得他們能更方便地將UCM技術(shù)集成到自己的框架中，提升框架性能和競爭力；對于算力及存儲系統(tǒng)廠商來說，UCM的開源提供了新的發(fā)展機遇，促使他們研發(fā)更適配的產(chǎn)品和解決方案，以更好地與UCM協(xié)同工作。
“ 我們并不希望控制這個框架，或者在框架上構(gòu)建差異化的能力控制什么，我們希望這個生態(tài)能夠繁榮起來，真正解決 AI推理化的問題，華為的UCM今天推出來以后 ， 在整個推理框架、推理體驗生態(tài)、成本方面貢獻了一份力量，未來相信會有更多的玩家在里面做貢獻，是一個大家共創(chuàng)繁榮的過程。 ”華為技術(shù)專家對觀察者網(wǎng)表示。
從更長遠的意義來看，華為推出 UCM并開源，仍是系統(tǒng)工程的勝利，將推動中國AI產(chǎn)業(yè)進入“體驗提升-用戶增長-投資加大-技術(shù)迭代”的良性商業(yè)正循環(huán)。它并不是為了替代什么，而是要打通AI行業(yè)化落地的關(guān)鍵堵點，為中國AI產(chǎn)業(yè)的長遠發(fā)展注入更強的動力。
- 責任編輯: 呂棟
-
前7月全國固投同比增1.6%，房地產(chǎn)開發(fā)投資降12%
2025-08-15 10:26 宏觀經(jīng)濟 -
全球追索的恒大“二號人物”浮出水面！夏海鈞藏身美國加州爾灣
2025-08-15 10:07 觀網(wǎng)財經(jīng)-消費 -
哈根達斯與星巴克踏入同一條河流
2025-08-15 10:02 觀網(wǎng)財經(jīng)-消費 -
-
唯品會Q2財報：凈營收258億元，SVIP活躍用戶數(shù)同比增15%
2025-08-14 20:08 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
淘天集團“更名”，與餓了么、飛豬為并行關(guān)系
2025-08-14 20:07 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
穩(wěn)定幣第一股不穩(wěn)定：Q2營收增53%，但凈虧損4.82億美元
2025-08-14 20:06 金融觀察 -
傳復星集團在港申請穩(wěn)定幣牌照，此前提交“星幣”商標注冊
2025-08-14 20:05 金融觀察 -
同比少賣了7億元，康師傅上半年飲料業(yè)務(wù)失速
2025-08-14 19:31 觀網(wǎng)財經(jīng)-消費 -
22.4%！京東集團2025年Q2收入同比增速再創(chuàng)近三年新高
2025-08-14 17:53 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
騰訊Q2收入利潤雙增長，AI立大功
2025-08-14 17:50 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
聯(lián)想季度營收1362億，楊元慶：中國制造成本優(yōu)于任何地方
2025-08-14 16:10 觀網(wǎng)財經(jīng)-科創(chuàng) -
非洲市場出現(xiàn)多個人事變動，小米稱是正常調(diào)整
2025-08-14 15:58 觀網(wǎng)財經(jīng)-科創(chuàng) -
時隔六年再現(xiàn)！平安舉牌太保，保險巨頭互買點燃行情
2025-08-14 13:10 金融觀察 -
人形機器人今年產(chǎn)量僅2臺，天鏈機器人IPO可能要被“勸退”
2025-08-14 09:39 科技前沿 -
-
瓜子和豌豆賣不動了，甘源食品凈利潤腰斬
2025-08-13 19:30 觀網(wǎng)財經(jīng)-消費 -
女律師“單挑”王者榮耀，“中國游戲算法訴訟第一案”開庭
2025-08-13 19:26 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
7月DAU過2000萬，《三角洲行動》Q2實現(xiàn)用戶、收入雙線高速增長
2025-08-13 17:38 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
“中國人幾百年來都不精于消費”，怎么理解？
2025-08-13 17:11 觀網(wǎng)財經(jīng)-消費
相關(guān)推薦 -
-
新加坡總理：這個問題，是中國紅線中的紅線 評論 9
俄副總理：或向中國提供重型發(fā)動機 評論 187
習近平：中方在TikTok問題上的立場是清楚的 評論 27
美媒挑事：巴基斯坦與中國很鐵，你細品… 評論 114
“訓練成本才這么點？美國同行陷入自我懷疑” 評論 156最新聞 Hot-
新加坡總理：這個問題，是中國紅線中的紅線
-
馮德萊恩揚言：歐盟要制裁，含中企
-
歐盟安撫歐爾班：俄羅斯問題上收收手，5.5億歐元還是照給
-
特朗普“下令美軍開火”
-
俄副總理：或向中國提供重型發(fā)動機
-
法軍高官：中國一天一個樣，見都沒見過
-
中國駐菲律賓大使黃溪連即將離任
-
助紂為虐……美國將向以色列再賣64億美元軍火
-
他被確認出任美國常駐聯(lián)合國代表
-
愛沙尼亞稱“被侵犯”，俄國防部否認
-
美媒挑事：巴基斯坦與中國很鐵，你細品…
-
“中方最嚴厲的公開回應(yīng)”
-
“挑戰(zhàn)中國主導，美國把手伸向贊比亞”
-
“訓練成本才這么點？美國同行陷入自我懷疑”
-
普京罕見透露前線俄軍人數(shù)
-
加拿大饞哭了：中國又從澳方買了，一買就是9船…
-
- 聯(lián)系我們
- 關(guān)于我們
- 版權(quán)聲明
- 服務(wù)條款
- 刊登廣告
- 聯(lián)系微博
- 加入我們
- 網(wǎng)站地圖
- 舉報鏈接
- 舉報制度規(guī)范
- 《網(wǎng)站自律管理承諾書》
Copyright ? 2014-2024 觀察者 All rights reserved。
滬ICP備10213822號-2 互聯(lián)網(wǎng)新聞信息服務(wù)許可證：31220170001
網(wǎng)登網(wǎng)視備（滬）02020000041-1號 互聯(lián)網(wǎng)宗教信息服務(wù)許可證：滬（2024）0000009
廣播電視節(jié)目制作經(jīng)營許可證：（滬）字第03952號
增值電信業(yè)務(wù)經(jīng)營許可證：滬B2-20210968 違法及不良信息舉報電話：021-62376571
滬公網(wǎng)安備 31010502000027號
中國互聯(lián)網(wǎng)舉報中心
上海市互聯(lián)網(wǎng)違法與不良信息舉報中心
