“有頂流明星在澳門輸了10億” “大媽擺攤賣水果被罰16萬，監(jiān)管局回應(yīng)不交就罰145萬” “上海退休教授靠陽臺核電池供電” …… 這些吸引眼球的內(nèi)容 都是AI生成的謠言！ 隨著AI技術(shù)的發(fā)展 正確使用的確能為人類的工作帶來方便 但因濫用AI所造成的亂象也不少 AI謠言就是其中之一 哪些信息容易被AI制作成假新聞？ 如何判斷AI制作的假新聞？ 一起來看 AI謠言頻出 近日，一則 “有頂流明星在澳門輸了10億”的信息 在互聯(lián)網(wǎng)平臺傳播 引發(fā)網(wǎng)民熱議和各種猜測 相關(guān)話題頻繁登上社交媒體熱搜熱榜
后經(jīng)公安網(wǎng)安部門查明 這條信息為AI制作的假新聞 公安機關(guān)根據(jù)相關(guān)法律法規(guī) 對制作這條假新聞的徐某強 處以行政拘留8日處罰 無獨有偶 近日，上海辟謠平臺公布一起網(wǎng)絡(luò)謠言 稱“上海退休教授靠陽臺核電池供電”為假消息
辟謠平臺調(diào)查發(fā)現(xiàn)，相關(guān)消息大概率是 造謠者用AI技術(shù)編寫、制圖并剪輯視頻 在傳播者中，除了受誤導(dǎo)的網(wǎng)民 還有一些別有用心的傳謠者 通過續(xù)寫、點評等方式擴大謠言負面效應(yīng) 薦股群所謂內(nèi)幕或是AI生成 除了一些AI造謠信息 還有些不法分子利用AI技術(shù) 盯上了你的錢包 前不久，有受害者反映 自己付費10000元加入“薦股”咨詢?nèi)?br> 群內(nèi)“大佬”說中國要大力發(fā)展國防軍工 制造業(yè)要遷到四川地區(qū)來 于是他重倉買入“大佬”推薦的股票 結(jié)果不僅沒有大漲 反而一路下跌 經(jīng)警方調(diào)查 這些所謂的股票利好消息 其實是利用AI生成的虛假信息 花一萬多元的學(xué)費 得到的所謂炒股知識、內(nèi)幕消息 不過是騙子在利益驅(qū)使下 炮制而來的虛假信息 目前，警方已抓獲15名犯罪嫌疑人 這些信息容易被AI制作成假新聞 假新聞并非新生事物 但AI大模型的崛起 無疑大幅降低了造假的門檻 如今，只需與AI智能助手進行簡短對話 幾秒鐘內(nèi)便能生成 一篇圖文并茂的假新聞
△ 使用AI工具，1分鐘便可制造一篇AI假新聞、AI圖片。圖源：網(wǎng)信浙江 而在多起AI造謠事件背后 造謠者的動機主要源于引流和借此牟利 網(wǎng)警總結(jié)了四種典型AI謠言場景 1 偽造熱點事件 用AI生成“某地重大事故”圖文/視頻 配煽動性標題博流量
△ 2025年1月7日，西藏日喀則市定日縣發(fā)生6.8級地震，震后，一張“小孩被壓廢墟下”的圖片被大量轉(zhuǎn)發(fā)。后經(jīng)查證，圖片是由AI生成，圖中人物甚至有6根手指。 2 捏造名人言論 篡改語音、合成視頻 假借權(quán)威人士發(fā)布虛假政策解讀 3 炮制偽科普 利用AI生成“科學(xué)數(shù)據(jù)” 兜售偽劣產(chǎn)品（如“AI檢測抗癌神藥”）
△ 2024年年底，有網(wǎng)友稱在網(wǎng)絡(luò)賣貨視頻中看到知名醫(yī)生張文宏在售賣一種蛋白棒產(chǎn)品。在帶貨視頻中，被合成的人像反復(fù)介紹一種產(chǎn)品，聲音聽起來很像張文宏本人。對此，張文宏回應(yīng)稱，這樣的賣貨賬號不止一個，而且一直在變，他多次向平臺投訴但屢禁不絕。 4 嫁接虛假證據(jù) 將無關(guān)圖片通過AI換臉/換背景 捏造“維權(quán)證據(jù)”“聊天記錄”等 四步識別AI謠言 不當“受害者”更別當“幫兇” 如何識別AI謠言？ 這些要點請記住↓↓↓ 1 查源頭 警惕無明確作者、無正規(guī)信源的內(nèi)容 AI生成信息常偽裝成 “網(wǎng)友投稿”“內(nèi)部消息” 2 看細節(jié) AI圖像：觀察手指數(shù)量異常、光影不自然等； AI視頻：注意口型與聲音不同步、背景模糊扭曲。 3 驗邏輯 AI生成謠言常出現(xiàn)時間矛盾 （如“2024年政策”引用2025年數(shù)據(jù)） 地名錯誤等 4 用工具 關(guān)注官方賬號公布的打謠信息 或通過“中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺”等渠道 一鍵驗證 還有一條好消息 為了促進人工智能健康發(fā)展 規(guī)范人工智能生成合成內(nèi)容標識 《人工智能生成合成內(nèi)容標識辦法》 正式發(fā)布，9月1日正式施行 屆時，AI生成合成內(nèi)容必須添加顯式標識 讓我們以理性駕馭AI 用法律守護底線 共同維護網(wǎng)絡(luò)清朗空間 來源： 央視新聞客戶端 |
