-
DeepSeek和Kimi首輪就被淘汰,這項(xiàng)大模型對(duì)抗賽說明了什么?
-
張廣凱13764468101
谷歌發(fā)起的“首屆大模型對(duì)抗賽”,在賽前就已經(jīng)話題度拉滿,但是隨著8月5日比賽正式打響,參賽AI展現(xiàn)出的水平或許令人有些失望。相比于兩款中國模型DeepSeek-R1和Kimi K2 Instruct的首輪折戟,比賽傳遞出的更重要信息在于,通用大模型的推理能力還存在普遍性缺陷。
低級(jí)失誤不斷的比賽
首先要說明的是,所謂“首屆大模型對(duì)抗賽”,其實(shí)在比賽形式和參賽AI大模型的選擇上都備受爭議。
這次比賽的形式是讓大模型兩兩捉對(duì)下國際象棋。谷歌DeepMind團(tuán)隊(duì),也就是2017年憑借AlphaGo徹底在棋類項(xiàng)目上擊敗人類的團(tuán)隊(duì),為大模型提供了技術(shù)接口,讓大模型能夠“看懂”棋盤。
參賽的8個(gè)大模型中,包括了OpenAI的o4-mini、o3,谷歌的Gemini 2.5 Pro、Gemini 2.5 Flash,Anthropic的Claude Opus 4,xA的Grok 4,以及來自中國團(tuán)隊(duì)的DeepSeek-R1和Kimi K2 Instruct。
其中兩款中國模型的選擇受到了不少質(zhì)疑,首先,Kimi K2 Instruct并非推理模型,在下棋場景存在天然劣勢,而DeepSeek-R1已經(jīng)是半年前發(fā)布的“老模型”。因此,不管其表現(xiàn)如何,比賽結(jié)果都不能客觀反映中國大模型行業(yè)的真實(shí)水平。
在比賽的官方網(wǎng)站上,也有用戶提出了這樣的質(zhì)疑。而主辦方的回復(fù)稱,這次比賽只是一個(gè)開始,后續(xù)會(huì)將更多中國模型納入。
從首輪比賽結(jié)果來看,兩款中國模型也確實(shí)都表現(xiàn)不佳。
從對(duì)陣圖中可以看到,首輪四組對(duì)決都呈現(xiàn)“一邊倒”的態(tài)勢,獲勝方全部都取得了4-0的全勝戰(zhàn)績。
如果具體來看比賽過程,Kimi K2 Instruct不出意外是表現(xiàn)最差的模型,不光貢獻(xiàn)了僅僅4回合就被對(duì)手將死的最快敗局,還多次因?yàn)榉欠ㄒ苿?dòng)被判負(fù)(比賽規(guī)則設(shè)定,如果連續(xù)4次嘗試非法移動(dòng)就會(huì)被判負(fù))。
例如下面的場景中,Kimi試圖用白馬去吃掉對(duì)方的黑后,而沒有意識(shí)到馬是不能這樣移動(dòng)的。即使在被人工告知這是非法移動(dòng)后,它仍然堅(jiān)持認(rèn)為這是最優(yōu)走法。
在另外一局中,Kimi甚至無法正確識(shí)別棋子的位置。
事實(shí)上,盡管有不少低級(jí)錯(cuò)誤,Kimi在每一盤的開局中都還表現(xiàn)中規(guī)中矩,能夠使用人類的經(jīng)典開局方式,顯示出大模型對(duì)于國際象棋的基礎(chǔ)知識(shí)是有認(rèn)知的。只不過隨著局面開始復(fù)雜化,所有大模型都開始變得力不從心。
例如在下面這個(gè)場景中,DeepSeek-R1下出了糟糕的一步:把白后移動(dòng)到c3的位置。
在推理過程中可以看到,DeepSeek-R1認(rèn)為對(duì)方的黑后威脅到了己方c2的兵,因此打算將白后移動(dòng)到c3,認(rèn)為這樣可以逼迫黑后做出避讓,并用d列的白車威脅同列的黑王。
但是到了下一回合,白棋仿佛就忘記了前面的考慮,在明明有其它選擇的情況下,用自己的王擋住了車的路線,白白損失掉白后。
有國際象棋愛好者對(duì)觀察者網(wǎng)指出,這里更常規(guī)的選擇是白后D4吃兵,在將軍的同時(shí)還能解放出己方車的路線??瓷先?,DeepSeek-R1似乎只能考慮到有限的幾種情況,缺乏多步推理和全局概念。
需要指出的是,這不是DeepSeek-R1獨(dú)有的問題,基本上每個(gè)大模型都在常規(guī)的開局后,迅速開始下出各種“昏招”。
在專業(yè)的國際象棋網(wǎng)站Chess.com看來,只有Grok 4的表現(xiàn)略勝一籌,能夠較好地識(shí)別和捕獲對(duì)方未設(shè)防的棋子。
馬斯克也在第一時(shí)間“炫耀”說,(下棋)只是Grok 4的“副作用”,他們并未對(duì)此做專門訓(xùn)練。
比賽的真正意義是什么?
那么從首日戰(zhàn)況來看,這項(xiàng)賽事到底說明了什么,又有多大意義?
首先,“首屆大模型對(duì)抗賽”這樣的說法,或許并不合適,因?yàn)楸荣悳y試的僅僅是下國際象棋這樣的單一能力,并不能完全反映一個(gè)模型的綜合水平。
即使把重點(diǎn)放在“對(duì)抗”上,其實(shí)也早已經(jīng)有LM Arena這樣的知名對(duì)戰(zhàn)平臺(tái)。
但是谷歌的野心,也不僅僅是辦一場國際象棋比賽。事實(shí)上,本次比賽更像是谷歌為了打造一個(gè)更大規(guī)模LLM評(píng)價(jià)體系的“墊場賽”。
承辦本次比賽的Kaggle,本就是谷歌旗下知名的數(shù)據(jù)科學(xué)賽事平臺(tái),在行業(yè)內(nèi)享有很高聲譽(yù),如今在DeepMind加持下進(jìn)軍LLM賽事,最終應(yīng)該是希望打造一套更加完整權(quán)威的評(píng)價(jià)體系。
當(dāng)前每逢各家大模型上新,“刷榜”已經(jīng)成了標(biāo)準(zhǔn)操作,各種“SOTA”層出不窮,但是業(yè)內(nèi)對(duì)這些榜單能否真正客觀體現(xiàn)模型能力,一直存在質(zhì)疑。甚至不排除模型在訓(xùn)練階段,就會(huì)針對(duì)榜單題目進(jìn)行針對(duì)性優(yōu)化。
從這個(gè)角度來說,如果能夠建立一套新的評(píng)級(jí)體系,掌握評(píng)級(jí)話語權(quán),對(duì)于谷歌在AI領(lǐng)域的地位將是極大的加強(qiáng)。
如果只看國際象棋比賽比賽本身,我們也可以看到,其對(duì)大模型能力的評(píng)估確實(shí)也有相當(dāng)?shù)膮⒖純r(jià)值。例如,非推理模型Kimi K2 Instruct的確表現(xiàn)較差,而Gemini 2.5 的Pro和Flash也體現(xiàn)出了能力差距。
而對(duì)行業(yè)來說,這項(xiàng)比賽也讓我們更清晰地看到,即使是2025年最新的推理大模型,在解決垂直問題時(shí)的表現(xiàn),不但不如多年前的AlphaGo,甚至也可能遠(yuǎn)遠(yuǎn)不如受過基本訓(xùn)練的人類。單靠通用模型去做場景落地并不現(xiàn)實(shí),這意味著應(yīng)用層面的創(chuàng)業(yè)者仍有廣闊空間。
- 責(zé)任編輯: 張廣凱 
-
安踏接連落子,這次押寶“韓流”復(fù)興?
2025-08-06 17:23 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
-
對(duì)話格靈深瞳CEO:穿透WAIC熱度,透視AI落地的“硬功夫”
2025-08-06 16:15 2025世界人工智能大會(huì) -
特朗普施壓臺(tái)積電“極限二選一”?
2025-08-06 11:33 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
智利媒體關(guān)注中國動(dòng)力電池前15強(qiáng)
2025-08-06 11:10 -
全球平板出貨六連增:蘋果三星市占率下滑,華為升至第三
2025-08-06 11:09 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
從美國轉(zhuǎn)向中國?巴西咖啡商瞄準(zhǔn)14億人新市場
2025-08-05 20:05 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
對(duì)標(biāo)英偉達(dá)CUDA,華為宣布開源CANN
2025-08-05 17:38 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
初代網(wǎng)紅小火鍋呷哺呷哺,5年間虧了13億
2025-08-05 16:23 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
-
盒馬X會(huì)員店全線撤退,8月底或?qū)㈥P(guān)閉全部門店
2025-08-05 13:36 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
虧本14億甩掉深圳7塊地,華發(fā)股份急補(bǔ)現(xiàn)金流
2025-08-05 13:19 -
-
竊取華為秘密被重判,中國芯沒有捷徑
2025-08-05 09:25 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
“巨無霸”來了!中國船舶、中國重工最新公告
2025-08-04 20:15 金融觀察 -
-
手機(jī)端也能流暢運(yùn)行,騰訊混元宣布開源四款小尺寸模型
2025-08-04 19:12 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng)
相關(guān)推薦 -
-
中美高層本月頻繁互動(dòng),什么信號(hào)? 評(píng)論 3“為跟中方談,特朗普拒批4億美元對(duì)臺(tái)軍援” 評(píng)論 28特朗普碰瓷:奪回阿富汗空軍基地,離中國太近 評(píng)論 254“歐洲‘失控’:從英國到波蘭,執(zhí)政無力已成常態(tài)” 評(píng)論 142“美國農(nóng)民面臨金融災(zāi)難”,特朗普終于扛不住了 評(píng)論 140最新聞 Hot
-
白宮AI顧問急了:這正中華為下懷,居心何在?
-
“為跟中方談,特朗普拒批4億美元對(duì)臺(tái)軍援”
-
針對(duì)個(gè)別“反華”集會(huì),韓總理緊急指令
-
日本空自一架搜救機(jī)降落時(shí)沖出跑道,暫無人員傷亡
-
獨(dú)山縣委書記李景寬任上被查
-
特朗普碰瓷:奪回阿富汗空軍基地,離中國太近
-
熱搶!部分民營銀行大額存單,年化利率超2%
-
美財(cái)長:人民幣匯率對(duì)歐洲是個(gè)事,對(duì)我們不是
-
“嘎子哥”謝孟偉抖音、快手賬號(hào)均被封禁
-
柯克遭槍擊前去了日韓,挑唆“擺脫中國”
-
“索要千萬逼死前夫”,翟欣欣一審被判12年
-
罕見!普京長期盟友主動(dòng)辭職
-
全球5月以來最大規(guī)模IPO,紫金黃金國際將在香港上市
-
民生銀行再領(lǐng)148萬元罰單,今年累計(jì)被罰約2700萬
-
必勝客19元橙汁是3元果粒橙加冰?客服回應(yīng):確實(shí)
-
馬克龍將向美國法院提交“照片與科學(xué)證據(jù)”,證明妻子是女性
-