近年來，利用例隨著人工智能技術迅猛發展，工具一些不法分子為博取流量、造謠桃谷繪里香磁力鏈接吸引關注，傳謠利用AI工具編造虛假信息，起典嚴重破壞網絡生態，型案擾亂社會秩序，利用例誤導公眾認知。工具為進一步提升全民識謠辨謠能力，造謠6月3日，傳謠山西網安部門集中曝光5起近期查處的起典利用AI技術制造傳播網絡謠言的典型案例。

【案例一】為博流量虛構“工廠爆炸”場景，型案桃谷繪里香磁力鏈接企業員工被依法查處

近日，利用例大同網安部門在工作中發現，工具有網民在某平臺發布視頻稱：“山西大同一車間內發生爆炸，造謠現場只有一名工人受傷，傷者面部燒傷面積100%”，引發網民關注。經查，涉事企業并未發生任何安全事故，相關內容系該企業員工趙某某通過AI工具生成的虛假文案和虛假視頻。在互聯網平臺發布后，引發網民關注，造成不良影響。目前，公安機關已依法對趙某某作出行政處罰。

【案例二】利用AI仿冒名人直播帶貨，擾亂秩序被依法查處

近日，大同網安部門在工作中發現，轄區居民邢某非法使用中國國民黨主席鄭麗文形象的AI數字人直播帶貨，引發網民質疑，嚴重干擾正常網絡秩序。經查，邢某從事直播帶貨，恰逢鄭麗文訪問大陸熱度很高，遂萌生利用名人熱度增加流量的想法。隨后在未經授權的情況下，利用AI工具生成AI數字人形象及帶貨方案，之后在媒體平臺直播帶貨，引發社會關注，造成惡劣影響。目前，公安機關已依法對邢某作出行政處罰。

【案例三】AI生成“高速車禍”謠言，編造“2死6重傷”被依法查處

近日，長治網安部門在工作中發現，網民趙某在某網絡平臺發布題為“長治人速看！長晉高速大客車側翻致2死6重傷，道路結冰預警生效，這些行車規則必須記牢！”的貼文，配發多張所謂“事故現場圖”，引發網民轉發。經查，長晉高速未發生此類交通事故，文中所述內容純屬虛構。趙某承認其為吸引粉絲關注，利用AI工具生成重大事故不實信息并發布。目前，公安機關已依法對趙某作出行政處罰。

【案例四】利用AI偽造“演唱會現場火災”，為博流量被依法查處

近日，晉城網安部門在工作中發現，某平臺網民發布一段視頻內容，視頻顯示為某體育場內疑似發生火災，并配文稱“太原紅燈籠體育場突發火情”。該視頻迅速引發網民關注與轉發，造成不良社會影響。經查，網民張某某在未核實事件真實性、無任何事實依據的情況下，利用AI工具擅自編造“太原紅燈籠體育場突發火情”的虛假信息。目前，公安機關已依法對張某某作出行政處罰。

【案例五】AI生成虛假文章，發布“五臺縣車禍”謠言被依法查處

近日，忻州網安部門在工作中發現，某平臺網民發布文章《4月29日突發慘烈車禍：大貨車側翻致3死，現場畫面曝光》。文中明確提及“山西忻州五臺縣”，并附有AI生成的事故圖片，引發網民廣泛關注。經查，五臺縣近期未發生此類交通事故。發布者田某某交代，其在某App看到類似標題后，復制鏈接至AI寫作平臺生成文章并直接發布。目前，公安機關已依法對田某某作出行政處罰。

公安機關提醒，當前，利用AI生成虛假圖文、音視頻已成為網絡謠言傳播的新趨勢。此類信息仿真度高、傳播速度快、誤導性強，極易引發社會恐慌。山西公安機關將持續加大對此類違法行為的打擊力度，依法查處造謠、傳謠、蹭流量、惡意引流等行為，堅決維護清朗網絡空間。