歌手陳奕迅因感染新冠導(dǎo)致演唱會(huì)延期，豈料沒(méi)幾天，其去世的消息傳得沸沸揚(yáng)揚(yáng)。近日，相關(guān)人士緊急辟謠此為“假消息”，有記者查詢發(fā)現(xiàn)，該謠言的源頭是YouTube上某賬號(hào)發(fā)布一則長(zhǎng)達(dá)9分27秒的視頻，內(nèi)容基本為拼接該明星舊照加上AI配音。5月19日晚，陳奕迅在個(gè)人社交平臺(tái)上用一張美食圖片和幽默配文“復(fù)活后先吃肉”辟謠。

無(wú)獨(dú)有偶，今年3月，“頂流明星在澳門輸了10億”的假消息引爆網(wǎng)絡(luò)，最后也被證實(shí)為AI炮制的謠言。AI制造的虛假內(nèi)容更往往具有驚人的"真實(shí)性"。通過(guò)深度偽造技術(shù)，造假者可以生成以假亂真的圖片、視頻和音頻，甚至模仿特定人物的聲音和表情。把謠言和明星捆綁，潑天的流量所帶來(lái)的巨大利益與極低的造謠成本相比，讓造謠者屢試不爽。據(jù)報(bào)道，制造此次謠言的賬號(hào)，長(zhǎng)期以“明星去世”為流量密碼，通過(guò)AI換臉、偽造截圖等技術(shù)手段牟利。如果不對(duì)AI謠言加以管制，只會(huì)愈演愈烈。

面對(duì)AI謠言，社交平臺(tái)的責(zé)任不可推卸。當(dāng)前社交媒體平臺(tái)的算法往往優(yōu)先推送引發(fā)強(qiáng)烈情緒的內(nèi)容，如果這些虛假內(nèi)容和名人相關(guān)，流量則更為可觀。因此，平臺(tái)需要建立更嚴(yán)格的AI內(nèi)容審核機(jī)制，對(duì)可疑信息進(jìn)行未核實(shí)標(biāo)記或延遲發(fā)布，為事實(shí)核查爭(zhēng)取時(shí)間。同時(shí)，用戶舉報(bào)機(jī)制需要進(jìn)一步簡(jiǎn)化，讓"群眾的眼睛"成為AI造謠的第一道防線。社交平臺(tái)不能只享受流量紅利，卻回避治理虛假信息的責(zé)任。

法律規(guī)制是遏制AI謠言的關(guān)鍵一環(huán)。當(dāng)前我國(guó)法律對(duì)AI造謠的懲處仍顯滯后，違法成本過(guò)低導(dǎo)致造謠者肆無(wú)忌憚。應(yīng)當(dāng)加快立法進(jìn)程，明確AI造謠的法律界定和處罰標(biāo)準(zhǔn)，特別是對(duì)造成嚴(yán)重社會(huì)影響的案件從嚴(yán)懲處。2023年實(shí)施的《生成式人工智能服務(wù)管理暫行辦法》是一個(gè)良好開端，但需要更多細(xì)則和配套措施。同時(shí)，執(zhí)法機(jī)關(guān)應(yīng)提升技術(shù)能力，例如利用"AI警察”輔助打擊違法犯罪行為，做到"魔高一尺，道高一丈"。

AI技術(shù)本身也是對(duì)抗AI謠言的有力武器。畢竟，技術(shù)的問(wèn)題最終還需要技術(shù)參與解決。區(qū)塊鏈技術(shù)可用于建立內(nèi)容溯源系統(tǒng)，記錄每張圖片、每段視頻的修改歷史；數(shù)字水印技術(shù)可以幫助區(qū)分真實(shí)內(nèi)容和AI生成內(nèi)容；檢測(cè)算法可以掃描內(nèi)容中的AI痕跡。技術(shù)界需要加大對(duì)這些"反制技術(shù)"的研發(fā)投入，構(gòu)建多層次的防御體系。同時(shí)，鼓勵(lì)科技企業(yè)在開發(fā)AI工具時(shí)內(nèi)置防濫用機(jī)制。

AI技術(shù)的發(fā)展給社會(huì)帶來(lái)巨大便利，但也滋生了新的治理難題。防止警惕AI謠言復(fù)燃，我們需要平臺(tái)盡責(zé)、法律完善、技術(shù)升級(jí)多管齊下。當(dāng)然，“吃瓜”網(wǎng)友在面對(duì)紛繁的網(wǎng)絡(luò)信息時(shí)，也要保持合理懷疑的態(tài)度，不輕易轉(zhuǎn)發(fā)非權(quán)威來(lái)源的消息，讓謠言難以擴(kuò)散。（李理）