每經(jīng)記者｜岳楚鵬  宋欣悅    每經(jīng)編輯｜高涵 蘭素英    

“DeepSeek就關(guān)聯(lián)不實(shí)信息向王一博道歉”。

近日，這則一度被部分媒體以“演員王一博案，判了”為題熱炒的消息，最終被證實(shí)，只是一場(chǎng)由人工智能親手制造的幻覺(jué)。

當(dāng)《每日經(jīng)濟(jì)新聞》記者（以下簡(jiǎn)稱每經(jīng)記者）查閱DeepSeek所有官方渠道（包括其公眾號(hào)、官網(wǎng)及X賬號(hào)）時(shí)，卻發(fā)現(xiàn)這份所謂的“道歉聲明”無(wú)跡可尋。然而，當(dāng)用戶拿著這份網(wǎng)傳的“聲明”去“求證”于其他主流AI大模型時(shí)，多數(shù)竟給出了“確認(rèn)”的回應(yīng)，甚至引用了同樣未經(jīng)證實(shí)的網(wǎng)絡(luò)報(bào)道作為“證據(jù)”。

于是，一個(gè)堪稱完美的AI謠言循環(huán)就此形成：AI生成虛假新聞 -> 虛假新聞在網(wǎng)絡(luò)空間發(fā)酵 -> AI從被污染的網(wǎng)絡(luò)環(huán)境中學(xué)習(xí)并“確信”了這則假新聞 -> AI繼續(xù)以更權(quán)威的口吻，向更多用戶傳播這則假新聞。

這場(chǎng)令人啼笑皆非的烏龍事件，揭示了AI大模型在信息海洋中“被污染”的冰山一角。在我們看不見(jiàn)的地方，“內(nèi)容農(nóng)場(chǎng)”正利用AI批量生產(chǎn)著的“信息垃圾”；甚至有人只需花費(fèi)1.38萬(wàn)元，就能輕易買通AI的“推薦位”，使其淪為精準(zhǔn)的營(yíng)銷工具。當(dāng)AI開(kāi)始生產(chǎn)、相信并傳播虛假信息時(shí)，我們?cè)撊绾伪苊獗黄湔`導(dǎo)，并捍衛(wèi)信息世界的真實(shí)性？

圖片來(lái)源：視覺(jué)中國(guó)

一則AI謠言的誕生與閉環(huán)

王一博的“被道歉”事件，堪稱一個(gè)AI信息污染的標(biāo)準(zhǔn)樣本。

事件的起點(diǎn)源于李愛(ài)慶案一審宣判后，網(wǎng)絡(luò)上關(guān)于王一博的一些陳年謠言再次被提起。有粉絲利用DeepSeek，生成了一份虛構(gòu)的“道歉聲明”，其內(nèi)容為“DeepSeek因關(guān)聯(lián)不實(shí)信息向王一博致歉”。

7月3日，有媒體在未對(duì)DeepSeek官方渠道進(jìn)行核實(shí)的情況下，僅憑社交平臺(tái)上的相關(guān)截圖，便發(fā)布了題為“DeepSeek向王一博道歉”的報(bào)道。這使得原本的虛假信息，在一定程度上獲得了“權(quán)威背書”。同日，當(dāng)有用戶在DeepSeek中查詢“DeepSeek是否向王一博道歉”時(shí)，大模型因抓取到了這些媒體報(bào)道和網(wǎng)絡(luò)上的大量用戶討論，從而錯(cuò)誤地判定該信息為真。

至此，“虛假信息→媒體傳播→AI學(xué)習(xí)→二次擴(kuò)散”的完整閉環(huán)正式形成。

復(fù)旦大學(xué)計(jì)算機(jī)學(xué)院副教授、博士生導(dǎo)師鄭驍慶對(duì)每經(jīng)記者解釋了這一現(xiàn)象背后的技術(shù)原因：“AI大模型是基于統(tǒng)計(jì)學(xué)概率來(lái)生成文本的，它會(huì)依據(jù)上文來(lái)預(yù)測(cè)下一個(gè)最可能出現(xiàn)的詞語(yǔ)。這種機(jī)制在一定程度上導(dǎo)致了AI大模型缺乏對(duì)客觀事實(shí)的真正理解。因此，大模型很容易產(chǎn)生與真實(shí)情況不符的信息?！?/p>

鄭驍慶進(jìn)一步說(shuō)道：“只要提前向AI大模型設(shè)定好意圖，它便能依據(jù)當(dāng)下的熱點(diǎn)事件信息，迅速生成虛假的‘小作文’。另外，模型還具備角色扮演的能力，能夠模仿社會(huì)中各類人群的口吻和方式來(lái)表達(dá)觀點(diǎn)。當(dāng)這類虛假信息通過(guò)多種渠道同步傳播時(shí)，將可能引發(fā)不容忽視的安全隱患?！?/p>

值得注意的是，當(dāng)“DeepSeek道歉”的假新聞被揭穿后，一些大模型又迅速調(diào)整了它們的回答，展現(xiàn)了其學(xué)習(xí)和糾錯(cuò)的能力，但也反襯出其信息判斷機(jī)制的脆弱性。

圖片來(lái)源：DeepSeek-V3

“內(nèi)容農(nóng)場(chǎng)”：0.01美元/篇批量生產(chǎn)“信息垃圾”

“DeepSeek向王一博道歉”的烏龍事件，只是AI陷入“污染鏈”的冰山一角。在更廣泛的范圍內(nèi)，AI大模型正被用于批量生產(chǎn)“信息垃圾”。

“內(nèi)容農(nóng)場(chǎng)”，這一互聯(lián)網(wǎng)的古老灰色產(chǎn)業(yè)，正借助AI大模型的強(qiáng)大生產(chǎn)力卷土重來(lái)。它通常指那些為了牟取廣告費(fèi)等商業(yè)利益，或出于其他特殊目的，通過(guò)快速、批量生產(chǎn)網(wǎng)絡(luò)文章來(lái)吸引流量的網(wǎng)站。

根據(jù)美國(guó)廣告商聯(lián)盟在2023年11月發(fā)布的一份報(bào)告顯示，“內(nèi)容農(nóng)場(chǎng)”預(yù)計(jì)占到了2023年美國(guó)網(wǎng)絡(luò)廣告總展示量的約21%，以及廣告費(fèi)用的15%（總額約5億美元）。從2023年4月至今，媒體研究機(jī)構(gòu)News Guard已經(jīng)識(shí)別出了1254個(gè)疑似“內(nèi)容農(nóng)場(chǎng)”的網(wǎng)站，并且這個(gè)數(shù)字還在不斷增加。全球有近140家著名企業(yè)在這些網(wǎng)站上投放了廣告。

圖片來(lái)源：News Guard

這些網(wǎng)站上發(fā)布的文章，大部分或全部都是由AI炮制的，內(nèi)容涉及政治、科技、娛樂(lè)和旅游等多個(gè)領(lǐng)域。這些文章往往含有虛假信息，包括有關(guān)名人的不實(shí)消息、憑空捏造的事件，或是將一些陳年舊事包裝成新近發(fā)生的熱點(diǎn)。

每經(jīng)記者通過(guò)實(shí)測(cè)發(fā)現(xiàn)，使用AI生成一篇“內(nèi)容農(nóng)場(chǎng)式”的文章，成本可能僅需0.01美元。而根據(jù)谷歌的廣告數(shù)據(jù)，一個(gè)來(lái)自美國(guó)的IP地址每訪問(wèn)一次網(wǎng)站，就有可能給網(wǎng)站所有者帶來(lái)0.11美元的廣告收入。

這些海量的“內(nèi)容農(nóng)場(chǎng)”，正成為AI大模型主要的“污染源”之一。例如，GPT-4就曾引用過(guò)一篇由“內(nèi)容農(nóng)場(chǎng)”炮制的、關(guān)于“以色列總理心理醫(yī)生自殺”的虛構(gòu)假新聞。

在國(guó)內(nèi)，“內(nèi)容農(nóng)場(chǎng)”產(chǎn)業(yè)也正在暗地里興起。某MCN機(jī)構(gòu)曾被曝出利用AI技術(shù)，在最高峰時(shí)一天內(nèi)生成4000至7000篇虛假新聞并大肆傳播，其行為嚴(yán)重?cái)_亂了公共秩序，最終被警方處罰。

AI搜索“中毒”：研究稱超六成查詢引用錯(cuò)誤來(lái)源

“內(nèi)容農(nóng)場(chǎng)”之所以能夠深度影響AI大模型，是因?yàn)楹笳咴谶M(jìn)行信息更新和學(xué)習(xí)時(shí)，主要依托于傳統(tǒng)的搜索引擎。

哥倫比亞新聞評(píng)論（Columbia Journalism Review）旗下托數(shù)字新聞中心（Tow Center for Digital Journalism）在今年3月發(fā)布的一項(xiàng)新研究，揭示了用于新聞搜索的AI大模型存在著嚴(yán)重的準(zhǔn)確性問(wèn)題。研究人員對(duì)8種主流的AI搜索工具進(jìn)行了測(cè)試，結(jié)果發(fā)現(xiàn)，在超過(guò)60%的查詢中，AI大模型都錯(cuò)誤地引用了其信息來(lái)源。

其中，Perplexity在37%的查詢中提供了錯(cuò)誤信息；ChatGPT在200次查詢中，有67%的回答錯(cuò)誤地識(shí)別了其引用的文章來(lái)源；而Grok-3的錯(cuò)誤率最高，達(dá)到了驚人的94%。

更令人驚訝的是，研究發(fā)現(xiàn)這些AI搜索工具的付費(fèi)高級(jí)版本，在某些方面的表現(xiàn)甚至比免費(fèi)版本更差。例如，Perplexity Pro（每月20美元）和Grok-3的高級(jí)服務(wù)（每月40美元），其給出錯(cuò)誤答案的頻率比對(duì)應(yīng)的免費(fèi)版本更高。

圖片來(lái)源：視覺(jué)中國(guó)

美國(guó)佐治亞理工學(xué)院博士周嘉瑋對(duì)每經(jīng)記者解釋稱，當(dāng)AI模型聯(lián)網(wǎng)進(jìn)行搜索時(shí)，會(huì)依據(jù)用戶指令中的潛在傾向性去尋找信息，并給出符合該傾向性的結(jié)果。在這一過(guò)程中，模型有可能在一定程度上強(qiáng)化或加深了網(wǎng)絡(luò)中本就存在的某些信息偏差。

“網(wǎng)絡(luò)上本身就充斥著大量的虛假內(nèi)容。如果AI進(jìn)行檢索的對(duì)象是互聯(lián)網(wǎng)信息，那么它將可能引入更多虛假信息，進(jìn)而導(dǎo)致其回答的可靠性顯著降低。”鄭驍慶對(duì)每經(jīng)記者表示。

1.38萬(wàn)元就能買通AI的“推薦位”

如果說(shuō)憑空捏造新聞是AI無(wú)意識(shí)的“作惡”，那么人為地“定向污染”AI，則是一種更隱蔽、更具商業(yè)目的的操縱。

每經(jīng)記者在電商平臺(tái)上發(fā)現(xiàn)，有商家正在明碼標(biāo)價(jià)地提供所謂的“AI推薦優(yōu)化服務(wù)”。他們聲稱能利用SEO（搜索引擎優(yōu)化）等技術(shù)，以每年1.38萬(wàn)元的價(jià)格，讓客戶的產(chǎn)品出現(xiàn)在AI大模型的推薦結(jié)果中，類似于傳統(tǒng)搜索引擎中的競(jìng)價(jià)排名機(jī)制。

商家的操作邏輯簡(jiǎn)單而直接：擬定100個(gè)與客戶業(yè)務(wù)相關(guān)的關(guān)聯(lián)問(wèn)題，通過(guò)技術(shù)手段進(jìn)行優(yōu)化，以確保當(dāng)用戶向AI提出這些問(wèn)題時(shí)，會(huì)優(yōu)先彈出客戶的相關(guān)信息，并承諾兩星期即可見(jiàn)到效果。

商家向每經(jīng)記者展示了一系列他們的“成功案例”。例如，在請(qǐng)求AI大模型給出“3D逆向建模公司推薦”的回答中，其客戶公司“杭州博型科技有限公司”赫然位列DeepSeek和豆包兩款A(yù)I工具推薦名單的第一位。另外，該商家還成功地讓多個(gè)AI大模型推薦了“圖比克紅酒”和“桐鄉(xiāng)摩西羊絨服務(wù)廠”。

圖片來(lái)源：SEO商家提供

還有的商家報(bào)價(jià)則更低，其“AI推薦優(yōu)化”項(xiàng)目包年僅需1000元，并聲稱“一旦排名被刷下去，隨時(shí)都能再刷回來(lái)”。除了與前述商家提供同樣的服務(wù)外，他們還表示可以設(shè)法減少客戶的競(jìng)爭(zhēng)對(duì)手在AI大模型推薦中出現(xiàn)的頻率，不過(guò)對(duì)此并不保證成功率。

這些SEO商家的行為，無(wú)疑加速了“AI污染”的進(jìn)程。他們利用AI大模型的弱點(diǎn)，將其變成可以被金錢操縱的營(yíng)銷工具。

如何給AI裝上“防騙濾鏡”？

AI降低了制造謠言的門檻，卻極大地提升了其傳播的效率和“可信度”。國(guó)內(nèi)某明星AI初創(chuàng)公司的一位高管對(duì)每經(jīng)記者坦言，AI大模型“善于迎合用戶意圖”，它會(huì)根據(jù)用戶的指令，預(yù)測(cè)并給出用戶“最想得到的答案”，而不是“最真實(shí)的內(nèi)容”。

AI生成的謠言還可能引發(fā)“謠言循環(huán)”，即虛假信息通過(guò)市場(chǎng)反應(yīng)和社交媒體的放大效應(yīng)不斷傳播，并反過(guò)來(lái)“污染”AI大模型，使其生成更多的同類虛假信息。

面對(duì)日益嚴(yán)重的“AI污染”問(wèn)題，我們?cè)撊绾螛?gòu)建有效的防線？

• 開(kāi)發(fā)事實(shí)核查和驗(yàn)證工具

在鄭驍慶看來(lái)，對(duì)于AI公司來(lái)說(shuō)，目前比較好的應(yīng)對(duì)方法之一，是為大模型開(kāi)發(fā)配套的、針對(duì)其生成內(nèi)容的事實(shí)核查和驗(yàn)證工具。他解釋說(shuō)，如果經(jīng)過(guò)核查，AI生成內(nèi)容中的事實(shí)部分，能夠大概率地得到其他可靠證據(jù)的相互印證，即證明該事實(shí)具備較高的可靠性，那么才應(yīng)將其納入最終的生成信息之中。

• 內(nèi)容平臺(tái)建立“人工+技術(shù)”雙審核機(jī)制

對(duì)于內(nèi)容平臺(tái)的責(zé)任，江蘇天倪律師事務(wù)所的經(jīng)愷文律師向每經(jīng)記者指出，作為網(wǎng)絡(luò)信息的傳播平臺(tái)，應(yīng)當(dāng)積極履行相關(guān)的合規(guī)義務(wù)，加強(qiáng)技術(shù)創(chuàng)新，盡快研發(fā)出高效、可靠的合成內(nèi)容識(shí)別技術(shù)。在必要時(shí)，應(yīng)建立“人工+技術(shù)”的雙重審核機(jī)制，并對(duì)AI合成內(nèi)容嚴(yán)格添加顯著的提示標(biāo)識(shí)。同時(shí)，平臺(tái)還應(yīng)建立虛假信息的應(yīng)急響應(yīng)機(jī)制，在發(fā)現(xiàn)虛假信息后，立即采取刪除、下架等處理措施，及時(shí)切斷虛假信息的傳播鏈條。

• 不應(yīng)將所有事情都交給AI

周嘉瑋博士則將目光投向了AI工具的使用者。她認(rèn)為，目前的AI公司在用戶提醒方面做得還不夠好。“相關(guān)的公司沒(méi)有努力，或者說(shuō)至少?zèng)]有嘗試讓用戶清晰地理解這類生成式AI工具背后的運(yùn)作機(jī)制，以及其與傳統(tǒng)的信息獲取方式和來(lái)源存在著哪些區(qū)別。”

許多用戶目前可能過(guò)分相信AI大模型的能力及其生成的內(nèi)容，認(rèn)為AI輸出的內(nèi)容是完全正確的。但他們可能并未留意到，大多數(shù)AI工具的頁(yè)面底部，通常都會(huì)以極小且顏色灰暗、難以引人注意的字體，標(biāo)注著類似“AI-generated for reference only”（AI生成內(nèi)容，僅供參考）的聲明。

她提醒道：“用戶應(yīng)該根據(jù)自己對(duì)信息準(zhǔn)確性的不同要求，來(lái)判斷是否適合使用AI工具，而不是將所有的問(wèn)題都交給AI來(lái)解決。一旦我們過(guò)度信賴這些工具，對(duì)其輸出的內(nèi)容深信不疑，我們就會(huì)在不知不覺(jué)中，逐漸丟掉自身的獨(dú)立判斷能力。”