歌手陳奕迅因感染新冠導(dǎo)致演唱會延期，豈料沒幾天，其去世的消息傳得沸沸揚揚。近日，相關(guān)人士緊急辟謠此為“假消息”，有記者查詢發(fā)現(xiàn)，該謠言的源頭是YouTube上某賬號發(fā)布一則長達(dá)9分27秒的視頻，內(nèi)容基本為拼接該明星舊照加上AI配音。5月19日晚，陳奕迅在個人社交平臺上用一張美食圖片和幽默配文“復(fù)活后先吃肉”辟謠。

無獨有偶，今年3月，“頂流明星在澳門輸了10億”的假消息引爆網(wǎng)絡(luò)，最后也被證實為AI炮制的謠言。AI制造的虛假內(nèi)容更往往具有驚人的"真實性"。通過深度偽造技術(shù)，造假者可以生成以假亂真的圖片、視頻和音頻，甚至模仿特定人物的聲音和表情。把謠言和明星捆綁，潑天的流量所帶來的巨大利益與極低的造謠成本相比，讓造謠者屢試不爽。據(jù)報道，制造此次謠言的賬號，長期以“明星去世”為流量密碼，通過AI換臉、偽造截圖等技術(shù)手段牟利。如果不對AI謠言加以管制，只會愈演愈烈。

面對AI謠言，社交平臺的責(zé)任不可推卸。當(dāng)前社交媒體平臺的算法往往優(yōu)先推送引發(fā)強烈情緒的內(nèi)容，如果這些虛假內(nèi)容和名人相關(guān)，流量則更為可觀。因此，平臺需要建立更嚴(yán)格的AI內(nèi)容審核機制，對可疑信息進(jìn)行未核實標(biāo)記或延遲發(fā)布，為事實核查爭取時間。同時，用戶舉報機制需要進(jìn)一步簡化，讓"群眾的眼睛"成為AI造謠的第一道防線。社交平臺不能只享受流量紅利，卻回避治理虛假信息的責(zé)任。

法律規(guī)制是遏制AI謠言的關(guān)鍵一環(huán)。當(dāng)前我國法律對AI造謠的懲處仍顯滯后，違法成本過低導(dǎo)致造謠者肆無忌憚。應(yīng)當(dāng)加快立法進(jìn)程，明確AI造謠的法律界定和處罰標(biāo)準(zhǔn)，特別是對造成嚴(yán)重社會影響的案件從嚴(yán)懲處。2023年實施的《生成式人工智能服務(wù)管理暫行辦法》是一個良好開端，但需要更多細(xì)則和配套措施。同時，執(zhí)法機關(guān)應(yīng)提升技術(shù)能力，例如利用"AI警察”輔助打擊違法犯罪行為，做到"魔高一尺，道高一丈"。

AI技術(shù)本身也是對抗AI謠言的有力武器。畢竟，技術(shù)的問題最終還需要技術(shù)參與解決。區(qū)塊鏈技術(shù)可用于建立內(nèi)容溯源系統(tǒng)，記錄每張圖片、每段視頻的修改歷史；數(shù)字水印技術(shù)可以幫助區(qū)分真實內(nèi)容和AI生成內(nèi)容；檢測算法可以掃描內(nèi)容中的AI痕跡。技術(shù)界需要加大對這些"反制技術(shù)"的研發(fā)投入，構(gòu)建多層次的防御體系。同時，鼓勵科技企業(yè)在開發(fā)AI工具時內(nèi)置防濫用機制。

AI技術(shù)的發(fā)展給社會帶來巨大便利，但也滋生了新的治理難題。防止警惕AI謠言復(fù)燃，我們需要平臺盡責(zé)、法律完善、技術(shù)升級多管齊下。當(dāng)然，“吃瓜”網(wǎng)友在面對紛繁的網(wǎng)絡(luò)信息時，也要保持合理懷疑的態(tài)度，不輕易轉(zhuǎn)發(fā)非權(quán)威來源的消息，讓謠言難以擴散。（李理）