作者: 來源: 發表時間： 2026-03-09 15:36
春節期間，一條“春運綠皮車嚴重超員”的視頻在網絡發酵，最終被證實系AI拼接歷史畫面炮制而成。事實上，這起事件并非孤例，在AI技術加速普及的當下，利用AI造謠、敲詐、詐騙的案例正呈現多發態勢。從偽造病歷敲詐商家，到生成虛假火災視頻博取流量，再到AI擬聲冒充親屬詐騙老人——AI正在被異化為新型“違法工具”，其低成本、高迷惑性的特點，對社會治理和公眾安全構成嚴峻挑戰。
今年2月，上海楊浦區一烤肉店負責人唐先生報警，稱顧客楊某以“吃壞肚子”為由索賠2000元，并出示醫院就診記錄。唐先生轉賬后察覺異常，懷疑被敲詐遂報案。經核實，楊某的相關病歷及發票均系偽造，據其到案后供述，其利用AI軟件篡改他人就診記錄，偽造姓名、日期及金額，他還利用偽造的材料向市場監督管理局、12315等渠道進行多次投訴舉報，并以此逼迫商家賠付。目前，楊某因涉嫌敲詐勒索罪已被依法采取刑事強制措施。
從敲詐勒索到造謠傳謠，AI濫用的場景正在快速蔓延。2月16日除夕當晚，一條“四川綿陽三臺縣發生火災”的視頻在抖音傳播。經當地公安調查，李某刷手機看到外地房子著火的視頻后，截取截圖通過AI生成虛假火災畫面，并將位置篡改為“三臺縣·水觀音”發布。由于發布時間正值除夕當日，部分網友信以為真，紛紛轉發導致謠言擴散。目前，李某因故意虛構事實擾亂公共秩序已被公安機關行政處罰。
更為惡劣的是，AI技術還被用于針對弱勢群體的精準詐騙。最高法2月26日發布的典型案例中，披露了一起AI擬聲詐騙案。詐騙分子針對獨居老人，利用AI擬聲換音技術冒充其孫子，通過電話實施詐騙。因老年人轉款不便，吳某濤配合詐騙分子上門收取贓款，從3名老人處騙取現金共計6萬元。人民法院對吳某濤依法判處刑罰，從司法層面斬斷電詐贓款變現“最后一公里”。
透視這些案例，可以發現AI濫用正呈現出一系列值得警惕的傳播特征與風險隱患。
首先是造謠成本低。過去，造謠需要實地拍攝、復雜剪輯；敲詐需要真實證據；詐騙需要面對面。如今，AI一鍵生成、批量炮制、深度偽造，讓違法成本大幅降低。去年，江西公安機關查處的一起MCN機構造謠案中，當事人通過AI工具日均發布4000到7000條信息，日收入超過1萬元。
其次是情緒煽動性強。AI通過抓取網絡熱詞和視覺符號，精準狙擊公眾在特定時期的集體記憶與潛在擔憂。除夕夜的虛假火災視頻、春運期間的“綠皮車超員”謠言，均選擇在公眾情緒敏感期發酵，極易激發公眾焦慮情緒，實現跨圈層病毒式傳播。
再次是識別難度顯著增加。AI生成的畫面在光影、細節上日益逼真，加之混剪真實素材，其欺騙性遠超以往的謠言呈現形態。辦案民警指出，這類犯罪“迷惑性強、隱蔽性高”，普通網友僅憑肉眼很難辨別真偽。
這些傳播特征相互疊加，共同放大了AI濫用的社會危害。當低成本的造假工具遇上高傳播性的社交平臺，再輔以真假難辨的技術偽裝，AI濫用的風險便從單純的個案蔓延為系統性挑戰。
從內容層面看，復合型謠言真假難辨。AI混剪歷史畫面與生成內容，真假交織，增加核實門檻，對公眾信息甄別能力提出挑戰。在“綠皮車超員”謠言中，AI將歷史資料畫面與生成內容拼接，普通網友難以辨別真偽。
從應用場景看，技術濫用形式多樣。從偽造病歷、生成虛假視頻，到AI擬聲詐騙、盜用明星形象，AI濫用已滲透到敲詐勒索、造謠傳謠、電信詐騙等多個領域。演員王勁松2月26日發文稱，其形象被AI盜用生成視頻，“聲音、口型完全看不出來真假”，連家人都難以分辨。這種深度偽造技術對個人肖像權、名譽權的潛在威脅不容小覷。
從侵害對象看，針對重點人群精準作案。獨居老人成為AI擬聲詐騙的重點目標；春節返鄉群體成為春運謠言的情緒靶點；餐飲商家成為AI偽造病歷敲詐的受害者。這種精準化作案模式，讓防范難度進一步加大，也讓社會信任感受到侵蝕。
從上海餐廳的AI假病歷，到綿陽除夕的AI假火災，再到針對老年人的“AI假孫子”——這些近期密集曝出的案例，勾勒出一幅幅令人憂心的圖景：AI技術正在被異化為新型“違法工具”。當“眼見為實”被顛覆，當“親屬來電”也可能造假，公眾的安全感受到挑戰，社會治理面臨全新課題。
國家對AI技術濫用的“零容忍”：中央網信辦在全國范圍內開展“清朗·整治AI技術濫用”專項行動，在春節期間開展“清朗·2026年營造喜慶祥和春節網絡環境”專項行動，明確將“利用AI生成傳播‘數字泔水’等垃圾信息”列為整治重點。公安機關對多起AI濫用案件快速查處，最高法發布典型案例釋放“詐騙必受懲”的強烈信號。
然而，技術迭代永不停歇，治理手段必須跑在違規作惡前面。對于平臺而言，不能僅滿足于事后下架，更需建立事前防范——給AI生成內容打上不可篡改的水印，對高迷惑性內容強化算法審核。對于公眾而言，在這個“有圖未必有真相”的時代，需要建立新的信息接收習慣：多一分警惕、多一次質疑、多一步核實。
AI是工具，向善還是作惡，取決于使用它的人。當技術被用于敲詐勒索、造謠詐騙、侵犯權益，它就不再是進步的階梯，而是違法的加速器。讓AI回歸“輔助人類”的本位，需要法律利劍高懸、平臺守土有責、公眾擦亮雙眼——三者合力，方能織密防護網，讓“數字泔水”無處潑灑。
魯公網安備 37172902372011號