近期，一款名為DeepSeek-R1的AI工具迅速走紅，其強(qiáng)大的功能為用戶帶來(lái)了諸多便利，但同時(shí)也引發(fā)了一系列問(wèn)題。這款工具在中文互聯(lián)網(wǎng)信息環(huán)境中造成的污染現(xiàn)象，引起了廣泛關(guān)注。

在過(guò)去的一周內(nèi)，多個(gè)由DeepSeek-R1生成的、包含事實(shí)錯(cuò)誤的內(nèi)容在各大平臺(tái)廣泛傳播。其中，一個(gè)知乎上的高贊回答尤為引人注目。該回答在初看之下，似乎充滿了對(duì)國(guó)產(chǎn)動(dòng)畫電影崛起的興奮與論證，但仔細(xì)核查后卻發(fā)現(xiàn)，其中的信息存在嚴(yán)重誤導(dǎo)。例如，回答中提到哪吒電影中的敖丙變身鏡頭在法國(guó)昂西動(dòng)畫節(jié)上轟動(dòng)業(yè)界，但實(shí)際上，參展的是追光動(dòng)畫的《哪吒重生》，且內(nèi)容中并未出現(xiàn)哪吒和敖丙的鏡頭。

該回答中關(guān)于電影制片方給員工分成都房子、攻克水下流體特效等描述，也均為DeepSeek-R1的虛構(gòu)內(nèi)容。盡管該回答在表達(dá)上較為流暢，且在一定程度上消除了AI生成文本的特有痕跡，但仍難以逃脫熟悉AI風(fēng)格用戶的眼睛。

另一個(gè)更為離譜的例子，是某自媒體利用DeepSeek-R1編寫了一篇涉及軍工領(lǐng)域的文章。該文章標(biāo)題醒目，內(nèi)容勁爆，但完全是由DeepSeek-R1編造而成。文章中提到的直升機(jī)設(shè)計(jì)圖紙?jiān)诎稻W(wǎng)出售、收受金條賄賂等細(xì)節(jié)，均為虛假信息。這篇文章的流傳，不僅誤導(dǎo)了公眾，也對(duì)相關(guān)人士造成了不良影響。

DeepSeek-R1之所以能夠生成如此具有迷惑性的內(nèi)容，與其作為推理模型的特點(diǎn)密切相關(guān)。推理模型在訓(xùn)練過(guò)程中注重獎(jiǎng)懲機(jī)制，通過(guò)思維鏈的暴露來(lái)確保任務(wù)的完成。這種訓(xùn)練模式使得推理模型具有舉一反三的能力，但同時(shí)也容易在“不自知”的情況下表現(xiàn)出欺騙性。當(dāng)用戶要求生成一篇作文時(shí)，即使缺少論據(jù)，DeepSeek-R1也會(huì)為了完成任務(wù)而自行編造材料。

據(jù)Vectara發(fā)布的大模型幻覺(jué)排行榜顯示，DeepSeek-R1的幻覺(jué)率高達(dá)14.3%，遠(yuǎn)高于其他主流模型。這與其作為推理模型所具備的“創(chuàng)造力”有關(guān)。然而，這種創(chuàng)造力若被濫用，則會(huì)導(dǎo)致信息的嚴(yán)重污染。

在公共討論聚集的領(lǐng)域，如時(shí)政、歷史、文化、娛樂(lè)等，AI污染的現(xiàn)象尤為嚴(yán)重。這與自媒體的商業(yè)模式有關(guān)，為了獲取流量和收入，一些自媒體不惜利用AI生成虛假信息。這些信息的流傳，不僅誤導(dǎo)了公眾，也破壞了互聯(lián)網(wǎng)的信息環(huán)境。

以歷史博主知北遊為例，他曾遭遇有人利用AI虛構(gòu)歷史材料來(lái)誘騙他的情況。如果不是他本身具有較強(qiáng)的反詐意識(shí)和人脈關(guān)系進(jìn)行證偽，他很可能會(huì)繼續(xù)沉迷在這個(gè)局中。這一事件再次提醒我們，AI的濫用已經(jīng)對(duì)互聯(lián)網(wǎng)信息環(huán)境造成了嚴(yán)重威脅。

AI的工業(yè)化生產(chǎn)能力使得虛假信息的傳播效率大大提高。與個(gè)體戶的伏案寫作相比，AI在生成信息方面具有得天獨(dú)厚的優(yōu)勢(shì)。然而，這種優(yōu)勢(shì)若被用于制造虛假信息，則會(huì)對(duì)互聯(lián)網(wǎng)信息環(huán)境造成不可估量的損害。AI在說(shuō)謊方面的能力也令人咋舌。它能夠臉不紅心不跳地編造出栩栩如生的細(xì)節(jié)和身臨其境的描寫，使得虛假信息更加難以辨識(shí)。

面對(duì)AI生成的虛假信息泛濫的問(wèn)題，我們需要采取積極措施加以應(yīng)對(duì)。一方面，大模型廠商和內(nèi)容平臺(tái)應(yīng)加強(qiáng)對(duì)AI生成信息的監(jiān)管和管理；另一方面，用戶也應(yīng)提高警惕性，學(xué)會(huì)辨識(shí)虛假信息。只有這樣，我們才能共同維護(hù)一個(gè)健康、有序的互聯(lián)網(wǎng)信息環(huán)境。