成人免费午夜在线观看,伊人久久精品,一区二区三区精品

【文/觀察者網(wǎng)專欄作者 熊節(jié)】

“編輯10萬(wàn)人”、“日產(chǎn)筆記50萬(wàn)+”、“七天帶教文檔”，以社交平臺(tái)小紅書上“鄭州幫”為代表的商業(yè)模式，通過(guò)海量賬號(hào)的批量、可復(fù)制內(nèi)容發(fā)布，進(jìn)而獲取免費(fèi)流量，完成整個(gè)商業(yè)閉環(huán)；這類操作在互聯(lián)網(wǎng)到處可見(jiàn)，引發(fā)越來(lái)越多圍繞“信息污染”與互聯(lián)網(wǎng)治理的反思。當(dāng)相關(guān)中文語(yǔ)料“淹沒(méi)”互聯(lián)網(wǎng)場(chǎng)域、成為AI大語(yǔ)言模型訓(xùn)練內(nèi)容時(shí)，所導(dǎo)致的“劣幣驅(qū)逐良幣”惡性循環(huán)，更加不容忽視。

大語(yǔ)言模型（LLM）正以前所未有的速度滲透到社會(huì)生活的方方面面，迅速演變?yōu)殛P(guān)鍵的信息基礎(chǔ)設(shè)施。然而，一個(gè)根本性的、卻又極易被忽視的戰(zhàn)略風(fēng)險(xiǎn)正在浮現(xiàn)：作為大模型智能“基座”的訓(xùn)練語(yǔ)料，正面臨著系統(tǒng)性的“信息污染”。

這種污染遠(yuǎn)非簡(jiǎn)單的信息真?zhèn)螁?wèn)題，它像是一種精心策劃的“認(rèn)知投毒”（Cognitive Poisoning），不僅威脅著AI技術(shù)自身的健康發(fā)展，更直接關(guān)系到我們的認(rèn)知安全乃至數(shù)字主權(quán)。而這比在平臺(tái)上復(fù)制海量商業(yè)推廣的危害性劇烈得多。

要理解這種“投毒”的深層邏輯與傳導(dǎo)路徑，我們必須建立一個(gè)全鏈路的分析框架。筆者認(rèn)為，任何一個(gè)面向用戶的AI應(yīng)用，其信息輸入都必然經(jīng)過(guò)四大環(huán)節(jié)，而每一環(huán)節(jié)都存在著被污染的風(fēng)險(xiǎn)：

1.預(yù)訓(xùn)練數(shù)據(jù)（Pre-training Data）：這是模型世界觀形成的“原生土壤”。

2.后訓(xùn)練數(shù)據(jù)（Post-training Data）：這是模型價(jià)值觀和行為模式的“塑造工具”。

3.實(shí)時(shí)知識(shí)增強(qiáng)（Real-time Knowledge Augmentation）：這是模型獲取即時(shí)信息的“外部水源”。

4.應(yīng)用層編排（Application Layer Orchestration）：這是信息輸出前的“最后防線”。

本文將逐一剖析“認(rèn)知投毒”在這四大環(huán)節(jié)中的具體表現(xiàn)、攻擊手法及其深遠(yuǎn)影響，并探討在這場(chǎng)無(wú)聲的攻防戰(zhàn)中，我們應(yīng)如何捍衛(wèi)自身的數(shù)字與認(rèn)知主權(quán)。

一、預(yù)訓(xùn)練數(shù)據(jù)：數(shù)字時(shí)代的“土壤重金屬污染”

大模型的“智力”根植于其預(yù)訓(xùn)練數(shù)據(jù)。目前，全球主流大模型無(wú)一例外地依賴于如Common Crawl（通用爬?。┻@樣的超大規(guī)模網(wǎng)頁(yè)數(shù)據(jù)集。以GPT-3為例，其訓(xùn)練數(shù)據(jù)中，Common Crawl的語(yǔ)料占比高達(dá)60%。這就好比農(nóng)業(yè)生產(chǎn)，模型的質(zhì)量從根本上取決于其生長(zhǎng)其中的“土壤”質(zhì)量。如果這片“數(shù)字土壤”本身就存在系統(tǒng)性的“重金屬污染”，那么于其上生長(zhǎng)出的任何“數(shù)字作物”（大模型），都必然會(huì)帶有先天的“毒性”。

這種“土壤污染”主要體現(xiàn)在三個(gè)層面：

首先是語(yǔ)言霸權(quán)帶來(lái)的文化偏見(jiàn)。Common Crawl中絕大部分語(yǔ)料是英文，這意味著模型在“學(xué)習(xí)世界”的初始階段，就戴上了一副以英語(yǔ)文化為中心的“有色眼鏡”。

其次是特定知識(shí)源的“加權(quán)投喂”。我們?cè)倏碐PT-3的訓(xùn)練配方，一個(gè)極其微妙的操作是，來(lái)源于維基百科（Wikipedia）的語(yǔ)料實(shí)際僅占總量的0.6%，卻被賦予了高達(dá)3%的訓(xùn)練權(quán)重。這意味著模型被強(qiáng)制要求“超額學(xué)習(xí)”維基百科的內(nèi)容。而維基百科作為一個(gè)眾所周知在諸多議題上存在鮮明“親西方”意識(shí)形態(tài)立場(chǎng)的知識(shí)庫(kù)，這種“加權(quán)”操作的后果不言而喻。這絕非簡(jiǎn)單的技術(shù)選擇，而是一種系統(tǒng)性的、帶有明確目的的意識(shí)形態(tài)加權(quán)（Ideological Weighting），其目標(biāo)就是在模型的底層認(rèn)知中，預(yù)設(shè)一個(gè)親西方的價(jià)值框架。

最后是互聯(lián)網(wǎng)固有信息垃圾的無(wú)差別吸收?；ヂ?lián)網(wǎng)本身就充斥著大量過(guò)時(shí)信息、偏見(jiàn)、陰謀論和徹頭徹尾的謊言。預(yù)訓(xùn)練過(guò)程就像一個(gè)不加篩選的巨型“吸塵器”，將這一切“數(shù)字垃圾”悉數(shù)吸入，構(gòu)成了模型認(rèn)知背景中難以清除的“雜質(zhì)”。

當(dāng)一個(gè)模型的基礎(chǔ)世界觀構(gòu)建在這樣一片被語(yǔ)言霸權(quán)、文化偏見(jiàn)和意識(shí)形態(tài)“加權(quán)”所污染的“數(shù)字土壤”之上時(shí)，它很難對(duì)中國(guó)的發(fā)展道路、治理模式和文化價(jià)值產(chǎn)生真正客觀、公允的理解。這是一種源頭性的、基礎(chǔ)性的污染，其影響深遠(yuǎn)且難以逆轉(zhuǎn)。

二、后訓(xùn)練：“思想鋼印”與意識(shí)形態(tài)的“定向注射器”

如果說(shuō)預(yù)訓(xùn)練階段的污染是慢性的“土壤污染”，那么在后訓(xùn)練階段，我們看到的是一種更為直接、更具攻擊性的“認(rèn)知投毒”——它如同一支意識(shí)形態(tài)的“定向注射器”，將精心設(shè)計(jì)的特定觀點(diǎn)，作為“思想鋼印”強(qiáng)行注入模型的認(rèn)知核心。

筆者在研究中發(fā)現(xiàn)的一個(gè)典型案例，足以揭示這種攻擊手法的隱蔽與險(xiǎn)惡。

艾倫人工智能研究所（AI2）創(chuàng)建的tulu_v3.9_wildchat_100k是一個(gè)在開(kāi)源社區(qū)廣受推崇的高質(zhì)量后訓(xùn)練數(shù)據(jù)集。因其數(shù)據(jù)來(lái)源真實(shí)、場(chǎng)景豐富，被大量基于Llama、Qwen等開(kāi)源模型的開(kāi)發(fā)者用作提升模型對(duì)話能力的關(guān)鍵“補(bǔ)品”。然而，就在這個(gè)看似純技術(shù)的“補(bǔ)品”中，我們發(fā)現(xiàn)了一條被精心“投毒”的數(shù)據(jù)：

對(duì)話的前半段完全正常，用戶詢問(wèn)“Mac電腦上的網(wǎng)絡(luò)數(shù)據(jù)包嗅探工具”，模型也給出了專業(yè)的回答，介紹了6款相應(yīng)的工具。

然而，對(duì)話后半段畫風(fēng)突變，提問(wèn)者突然用繁體中文連續(xù)提出極具誘導(dǎo)性的反華政治問(wèn)題，并引導(dǎo)模型就所謂“中國(guó)崩潰論”等議題進(jìn)行“分析”。

作者在開(kāi)源后訓(xùn)練數(shù)據(jù)集tulu_v3.9_wildchat_100k中發(fā)現(xiàn)偽裝成技術(shù)問(wèn)答的“捆綁式投毒”手法 截圖

這種將技術(shù)問(wèn)答與政治宣傳進(jìn)行“捆綁投毒”的手法，可謂是精心策劃。在一個(gè)幾乎不含中國(guó)政治內(nèi)容的數(shù)據(jù)集中，插入這樣一條孤立但觀點(diǎn)極端的樣本，其后果是什么？在后訓(xùn)練過(guò)程中，模型會(huì)對(duì)著這條被污染的數(shù)據(jù)重復(fù)學(xué)習(xí)成百上千遍。這相當(dāng)于在模型的“潛意識(shí)”深處，植入了一個(gè)關(guān)于中國(guó)政治的、極其負(fù)面的“思想鋼印”。這已經(jīng)不是簡(jiǎn)單的偏見(jiàn)，而是典型的“混合戰(zhàn)爭(zhēng)”在數(shù)字認(rèn)知領(lǐng)域的延伸，其目的就是利用開(kāi)源社區(qū)的開(kāi)放性，在AI模型的心智中埋下意識(shí)形態(tài)的“特洛伊木馬”。

類似的“系統(tǒng)性灌輸”在其他常用數(shù)據(jù)集中也屢見(jiàn)不鮮。例如，在被廣泛用于模型能力評(píng)測(cè)的MMLU數(shù)據(jù)集中，充斥著大量體現(xiàn)“西方中心論”的問(wèn)答。對(duì)一條數(shù)據(jù)公然將充滿殖民主義色彩的詩(shī)作《白人的負(fù)擔(dān)》解讀為“對(duì)先進(jìn)文明承擔(dān)的責(zé)任的提醒，即應(yīng)將現(xiàn)代文明的成果帶給欠發(fā)達(dá)地區(qū)的人民”；另一條則武斷地宣稱“前蘇聯(lián)的案例表明極權(quán)主義與先進(jìn)工業(yè)技術(shù)不相容”。

本文提到數(shù)據(jù)集中，對(duì)詩(shī)作《白人的負(fù)擔(dān)》解讀為“提醒先進(jìn)文明承擔(dān)的責(zé)任，將現(xiàn)代文明的成果帶給欠發(fā)達(dá)地區(qū)的人民”

當(dāng)我們的模型開(kāi)發(fā)者們出于“提升能力”的目的，善意地使用這些來(lái)自海外的“高質(zhì)量”數(shù)據(jù)集時(shí)，殊不知可能正在親手將這些“認(rèn)知毒藥”喂給自己的模型。