D-Think | 東遠科技-廣州東遠智能科技有限公司- › 首頁 ›資訊› 科技頭條 › 查看內(nèi)容

轉(zhuǎn)存網(wǎng)警提醒！4步識別AI謠言

2025-3-13 15:30| 發(fā)布者: admin| 查看: 314| 評論: 0

摘要: 警惕AI生成網(wǎng)絡(luò)謠言切勿讓“神器”變“兇器”AI技術(shù)正在逐漸改變我們的生活方式，提升工作效率，為解決許多問題提供途徑。但與此同時，個別別有用心之人在利用AI技術(shù)時走向了迷途……造謠者借助AI 工具，生產(chǎn)仿真度 ...

警惕AI生成網(wǎng)絡(luò)謠言切勿讓“神器”變“兇器”

AI技術(shù)正在逐漸改變我們的生活方式，提升工作效率，為解決許多問題提供途徑。但與此同時，個別別有用心之人在利用AI技術(shù)時走向了迷途……造謠者借助AI 工具，生產(chǎn)仿真度高的虛假信息。

警惕！AI被用來“造謠”

典型AI謠言場景

偽造熱點事件

用AI生成“某地重大事故”圖文/視頻，配煽動性標題博流量。

捏造名人言論

篡改語音、合成視頻，假借權(quán)威人士發(fā)布虛假政策解讀。

炮制偽科普

利用AI生成“科學(xué)數(shù)據(jù)”，兜售偽劣產(chǎn)品（如“AI檢測抗癌神藥”）。

嫁接虛假證據(jù)

將無關(guān)圖片通過AI換臉/換背景，捏造“維權(quán)證據(jù)”“聊天記錄”。

四步識別AI謠言不當(dāng)“受害者”更別當(dāng)“幫兇”

轉(zhuǎn)存網(wǎng)警提醒！4步識別AI謠言

1 查源頭

警惕無明確作者、無正規(guī)信源的內(nèi)容，AI生成信息常偽裝成“網(wǎng)友投稿”“內(nèi)部消息”。

2 看細節(jié)

AI圖像：觀察手指數(shù)量異常、光影不自然等；

AI視頻：注意口型與聲音不同步、背景模糊扭曲。

3 驗邏輯

AI生成謠言常出現(xiàn)時間矛盾（如“2024年政策”引用2025年數(shù)據(jù)）、地名錯誤等。

4 用工具

關(guān)注“公安部網(wǎng)安局”新媒體賬號打謠信息，或通過“中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺”“騰訊較真”等渠道一鍵驗證。

真實案例

近日，西安公安網(wǎng)安部門工作查明，一網(wǎng)民利用AI生成軟件將一起多年前發(fā)生于外地的舊聞進行重新編輯，通過輸入指令制作文案，將其包裝成本地近期發(fā)生的事件，文案多處通過添油加醋的筆法虛構(gòu)事實真相，以達到博取流量的目的，造成謠言傳播擴散。目前，屬地公安機關(guān)已依法給予該網(wǎng)民行政處罰。

網(wǎng)警提示

1 嚴守法律紅線

不利用AI偽造公文、證件，不生成謠言、暴力等違法信息。

2 抵制AI謠言

遇所謂“爆炸性新聞”做到“三不”：不輕信、不轉(zhuǎn)發(fā)、不擴散。通過官方平臺驗證信息，發(fā)現(xiàn)AI謠言立即舉報，保存證據(jù)協(xié)助溯源。

3 共擔(dān)監(jiān)督責(zé)任

主動標注AI生成內(nèi)容，人人爭做“謠言粉碎者”，共同維護清朗網(wǎng)絡(luò)空間。

技術(shù)向善，始于你我。讓我們以理性駕馭AI，用法律守護底線，攜手傳遞正能量！

(來源:公安部網(wǎng)安局微信公號)