涉AI謠言特征分析及處置經(jīng)驗啟示

近日，四川、甘肅等多地公安廳公布了多起網(wǎng)民利用AI技術(shù)制造謠言的案例，公安部公布10起打擊整治網(wǎng)絡(luò)謠言違法犯罪典型案例，有4起涉及違法人員使用AI造謠，引發(fā)輿論持續(xù)關(guān)注。近兩年來，生成式AI技術(shù)的廣泛應(yīng)用，令利用人工智能編造的網(wǎng)絡(luò)謠言的數(shù)量呈上升態(tài)勢。輿論普遍認為，利用AI編造、傳播網(wǎng)絡(luò)謠言已形成一種新型違法犯罪行為，對政法機關(guān)的社會治理工作提出挑戰(zhàn)。我們從公開的典型案件中選取10起為研究對象，分析AI謠言的輿情特征，總結(jié)輿情處置經(jīng)驗，為政法機關(guān)提供參考。

10起典型案例中，有6起是涉及公共安全的謠言，包含“地震”“火災(zāi)”“爆炸”等關(guān)鍵詞；2起謠言涉及教育領(lǐng)域，分別為“賀州市第五高級中學小賣部經(jīng)營權(quán)調(diào)查情況的通報”和“德陽12歲女生被8人輪流扇耳光3小時，致耳膜穿孔”；1起謠言涉及民生領(lǐng)域，為“廣州將成全國首個限制外賣配送的城市”；1起涉及政治謠言，為“一旦要打仗，啟動一級戰(zhàn)備，專家建議老百姓沖在最前線，報效祖國”。在行為動機上，有7起案件明確提到了造謠者是為了獲取更多流量、賺取收益，有1起案件系行為人為了蹭熱度漲粉，還有1起系行為人為了發(fā)帖賺稿費。曝光形式方面，10起案件中有9起是采用圖片加文字的形式，有1起是以視頻形式傳播，即網(wǎng)民駱某某將其他地區(qū)的抗洪、救災(zāi)視頻嫁接到新疆烏什地震上，造成較大負面影響。從處置結(jié)果看，9起案件的行為人被涉事警方給予行政處罰，網(wǎng)民楊某招攬多人捏造“廣州即將成為全國首個限制外賣配送的城市”謠言，當?shù)毓膊块T對涉案6名嫌疑人采取刑事強制措施。

觀察以上案例，可以發(fā)現(xiàn)涉AI謠言案件具有以下幾方面突出特征:

1. 信息混雜 辨真?zhèn)坞y度增加

網(wǎng)絡(luò)謠言的最終目的，就是令大眾相信造謠者生產(chǎn)的虛假信息，以達到其不可告人的企圖。AI謠言雖然是造謠者利用軟件系統(tǒng)等程序生成，但在形式外觀上新聞要素齊全、內(nèi)容完整，極具逼真性和迷惑性。而隨著ChatGPT、文生視頻模型“Sora”等人工智能技術(shù)的推出，造謠者只需“動動手指”，就可以將現(xiàn)有算法和互聯(lián)網(wǎng)中的海量信息“排列組合”，令網(wǎng)民掉入以假亂真、虛實混雜的“信息陷阱”。比如，無中生有地通過軟件直接生成逼近真實的圖片、音視頻；將網(wǎng)絡(luò)中真實存在的圖片、視頻等進行嫁接以增加真實感；故意“添油加醋”篡改真實信息，制造聳人聽聞的消息，煽動民眾恐慌等。而經(jīng)過AI包裝過的網(wǎng)絡(luò)謠言，徹底顛覆了大眾“有圖有真相”“有視頻有真相”的常規(guī)認知，讓謠言變得更具有偽裝性和欺騙性，極大混淆了公眾視聽。

2. 精準分析 制造輿情“爆點”

公安部網(wǎng)安局在發(fā)布涉網(wǎng)絡(luò)謠言典型案例時曾指出：“AI通過海量數(shù)據(jù)的學習和用戶行為、興趣的分析，從而發(fā)現(xiàn)隱藏在其中的模式和規(guī)律，進而提供準確的決策支持和更好的用戶體驗，恰恰是它的拿手好戲?！笨梢姡珹I強大的技術(shù)優(yōu)勢使得其被造謠者充分利用，通過大數(shù)據(jù)找到公眾最為關(guān)注的內(nèi)容，通過提取相關(guān)的關(guān)鍵詞生成謠言，并制造出一個個輿情“爆點”。進一步觀察發(fā)現(xiàn)，關(guān)涉民眾個人和公共安全的信息往往最受AI謠言的“青睞”，比如突發(fā)案事件中重點突出“交通事故”“陰謀”“故意殺人”“死亡”等細節(jié)，突發(fā)公共安全類事件中多強調(diào)“地震”“爆炸”“火災(zāi)”“洪災(zāi)”等情節(jié)。在標題設(shè)置上，此類AI謠言也很有煽動性，比如“一場驚心動魄的‘鈔票大戰(zhàn)’ 巴中市警民對峙引發(fā)轟動 誰將成為勝利者”“一場強烈地震在甘肅省白銀市景泰縣席卷而過，給當?shù)厝嗣駧砹顺林貫?zāi)難”等，通過夸張的語氣、數(shù)據(jù)表述實現(xiàn)對受眾心理的精準拿捏，令其內(nèi)心作出傾向性選擇。

3. 技術(shù)加持 謠言生成效率提升

相比此前造謠者單純靠人工捏造、散布謠言這一略顯“原始”的方式，利用AI造謠明顯提升了謠言的“技術(shù)含量”，使得謠言的生成速度、數(shù)量以及傳播量都出現(xiàn)質(zhì)的飛躍。這是因為，一方面人工智能的高效性、自動化等特點，可以在極短時間內(nèi)實現(xiàn)謠言的“批量化生產(chǎn)”。比如，人民網(wǎng)報道稱，在“廣州限制外賣配送”謠言案中，涉案人員使用人工智能工具批量生成不實文章，發(fā)布“外賣配送將被禁止，餐館只能提供堂食和到店取餐服務(wù)”等虛假消息，擾亂當?shù)厣鐣Ｖ刃?。又如《檢察日報》報道，2023年12月，西安警方在破獲的一則“西安市鄠邑區(qū)管道破裂”謠言中發(fā)現(xiàn)，該案涉及一款名為“翠綠筆墨”的寫稿軟件，一天能生成19萬篇文章，7天能達到上百萬篇，謠言的輸出密度和量級令人驚愕。另一方面，一些不法分子看到AI造謠背后的“商機”，將造謠傳謠看成生意，由此衍生出一條條黑灰產(chǎn)業(yè)鏈，這意味著網(wǎng)絡(luò)謠言產(chǎn)生后，往往會被大量轉(zhuǎn)發(fā)炒作，造謠的門檻和成本極大降低，但傳播的效率和產(chǎn)生的影響卻成倍增加，大大提升了網(wǎng)絡(luò)謠言的破壞力。

4. 打“信息差” 帶偏網(wǎng)民認知

AI技術(shù)的出現(xiàn)為造謠者提供了豐富多樣的“語料池”，令其在時間、地域等方面選擇維度拓寬，而網(wǎng)民作為信息不對稱的另一方，對造謠者提出的信息必然無法全部掌握，這就為造謠者利用“信息差”炮制謠言提供可乘之機，最典型的體現(xiàn)就是AI“異地造謠”現(xiàn)象。在上述10起案例中，有5起案件涉及異地造謠，比如某網(wǎng)民將發(fā)生在江西某地的校園霸凌事件編造為四川某學校、山東網(wǎng)民發(fā)布“廣西賀州某中學小賣部經(jīng)營權(quán)調(diào)查情況通報”的謠言等。造謠者將外地發(fā)生的事件安在本地，或?qū)⑼獾匕l(fā)生的A事件安在B地，未知全貌的網(wǎng)民被謠言信息帶偏認知后對該信息轉(zhuǎn)發(fā)擴散，而一些自媒體博主未經(jīng)核實信息真實性，出于吸引流量、博取眼球等各種目的，對謠言進行加工解讀和轉(zhuǎn)發(fā)傳播，也為放大謠言的危害起到推波助瀾的作用。

如上文所述，利用AI技術(shù)造謠可謂“門檻低、傳播廣、破壞大”，而流量帶來的可觀收益促使造謠者不斷鋌而走險，嚴重誤導公眾認知，影響網(wǎng)絡(luò)空間秩序和社會穩(wěn)定。從公布的案例情況看，各地公安部門對涉AI謠言案件整體能做到快速介入處置，有效安撫人心，保證社會秩序平穩(wěn)。在此總結(jié)出三點處置經(jīng)驗，供政法機關(guān)參考。

一是積極處置個案。經(jīng)分析，那些對涉AI謠言案件的處置整體較成功的案件，涉事公安部門總體處置都秉持了“發(fā)現(xiàn)早、研判準、處置快”的原則。具體來講就是，輿情意識在線，尤其對那些破壞性較強的、消解官方公信力的、容易激發(fā)公眾集體恐慌等方面的信息保持敏感，一經(jīng)甄別判定為謠言的，政法機關(guān)往往多管齊下，在謠言攔截、信息清理、信息發(fā)布等方面展現(xiàn)出更多主動作為。另外，對于涉及多個部門和地域的AI網(wǎng)絡(luò)謠言，政法機關(guān)也加強了聯(lián)動配合，有力阻斷了謠言傳播鏈條，力爭讓官方處置速度跑贏謠言傳播速度。

二是做好普法宣傳。目前，甘肅、四川、廣西等多地公安都積極通過官微等多種方式展開典型案例宣傳，向大眾講明AI造謠的生產(chǎn)機制、話術(shù)套路、識別方式等內(nèi)容，引導網(wǎng)民增強對網(wǎng)絡(luò)謠言信息鑒別能力，呼吁廣大群眾對未經(jīng)權(quán)威部門證實、背景缺失、地域不清、指向不明的信息內(nèi)容，不先入為主作評判，不主動傳播。今年4月21日，安徽合肥警方還通過央視新聞，在關(guān)于“AI軟件成造謠工具”節(jié)目中揭秘謠言制作過程，讓網(wǎng)民更直觀地加深了對AI造謠的認知，起到較好宣傳效果。

三是加大懲處力度。針對AI造謠行為帶來的負面影響，輿論一致呼吁嚴加懲處。對此，政法機關(guān)積極回應(yīng)輿論期盼，從主觀惡性、謠言性質(zhì)、社會影響等方面綜合考慮，積極打擊AI造謠違法犯罪行為。以上述案例為例，絕大多數(shù)的始作俑者被給予行政處罰，包括批評教育、罰款、行政拘留等，輿情處置流程比較完整，閉環(huán)率較高。特別是在“廣州即將成為全國首個限制外賣配送的城市”謠言一案中，廣州警方對楊某、葉某英等6名人員采取刑事強制措施，通過辦理典型案例的方式形成震懾，讓造謠傳謠者心存畏懼，遏制其違法犯罪沖動，被業(yè)內(nèi)專家評價為“是打擊治理AI造謠違法犯罪行為的樣板案例，將對不法分子起到有力震懾作用”。