《中國經(jīng)濟(jì)周刊》記者 鄭雪 | 北京報(bào)道

西安發(fā)生了大爆炸？運(yùn)鈔車遭遇武裝搶劫并發(fā)生激烈槍戰(zhàn)？比亞迪要收購蔚來？一則則聳人聽聞的消息是真的嗎？

監(jiān)管部門調(diào)查發(fā)現(xiàn)，上述消息都是借助人工智能（以下簡稱“AI”）工具編造，動機(jī)則是為了流量。

相關(guān)專家在接受《中國經(jīng)濟(jì)周刊》記者采訪時(shí)表示，隨著AIGC技術(shù)的不斷進(jìn)步和易獲取，文生圖和文生視頻被用于制造虛假信息?！昂诨钡腁I技術(shù)和謠言的結(jié)合，不僅使得謠言數(shù)量增加，也使謠言更加難以判斷。未來可以考慮用技術(shù)發(fā)展，特別是利用AI對抗AI謠言。

亂象：謠言數(shù)量和逼真程度大幅提升

隨著AI技術(shù)的快速發(fā)展，內(nèi)容創(chuàng)作的門檻降低、時(shí)間縮短。例如文本創(chuàng)作，只需輸入幾個(gè)關(guān)鍵詞，AI便可迅速提供包含人物、時(shí)間、地點(diǎn)、事件的相關(guān)內(nèi)容。

在此背景下，有人為了博眼球、蹭熱度，甚至使用AI技術(shù)變造“偽消息”“假新聞”來獲得關(guān)注和流量。

如近期有網(wǎng)絡(luò)傳聞，一名疑似比亞迪的員工發(fā)文稱，比亞迪要和蔚來合作成立比未來汽車集團(tuán)。

此后有媒體從合肥市公安局經(jīng)開分局確認(rèn)，該謠言系29歲外省男子謝某所做，利用AI軟件合成不實(shí)圖文上網(wǎng)傳播，其目的是為提升自媒體賬號的知名度、博取流量。

不只是文字，“有圖有真相”的視頻也可能被AI偽造。

今年6月，一條“廣東省五華縣華陽鎮(zhèn)一70多歲老人被毆打致昏迷，其孫子為此跳河自殺，打人者一審被判九年十個(gè)月”的短視頻在互聯(lián)網(wǎng)平臺傳播，引發(fā)大量關(guān)注。后經(jīng)公安網(wǎng)安部門確認(rèn)，視頻全由AI合成。

AI技術(shù)造謠的背后不乏MCN機(jī)構(gòu)的參與。

央視新聞今年6月報(bào)道了一起案例，“西安爆炸”消息背后，便是江西南昌一家MCN機(jī)構(gòu)推波助瀾。據(jù)警方調(diào)查，這家MCN機(jī)構(gòu)發(fā)布的數(shù)條涉嫌網(wǎng)絡(luò)造謠的信息，系通過AI軟件生成內(nèi)容制作。

這家MCN機(jī)構(gòu)短時(shí)間內(nèi)生成了大量文章，最高峰一天能生成4000至7000篇，最高的一條收入700元，初步估算每天的收入在1萬元以上。

中國社會科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任、副教授劉曉春在接受《中國經(jīng)濟(jì)周刊》記者采訪時(shí)說，在生成式AI浪潮之前，網(wǎng)絡(luò)上也存在使用網(wǎng)絡(luò)機(jī)器人制作內(nèi)容的情況，如評論區(qū)的某些內(nèi)容、常見的水軍等。但這波AI浪潮出現(xiàn)后，謠言不僅數(shù)量有了大幅增加，其逼真程度也讓人難以判斷。

“以前的內(nèi)容還有一些明確特征可以判斷是機(jī)器生成，而現(xiàn)在以假亂真的水平較高，公眾很難看出這是AI生成的謠言?！眲源赫f。

同濟(jì)大學(xué)法學(xué)院助理教授、上海市人工智能社會治理協(xié)同創(chuàng)新中心研究員朱悅在接受《中國經(jīng)濟(jì)周刊》記者采訪時(shí)提示，AI是不會疲憊的，當(dāng)被有心人利用，其批量生產(chǎn)謠言的潛力會被無限放大。

AI造謠背后，不只個(gè)人受影響，企業(yè)也深受其害。

今年4月，清華大學(xué)新聞與傳播學(xué)院新媒體研究中心發(fā)布了報(bào)告《揭秘AI謠言：傳播路徑與治理策略全解析》。報(bào)告稱，2023年以來，網(wǎng)絡(luò)謠言整體態(tài)勢平穩(wěn)，但AI謠言量近半年增長65%。其中，經(jīng)濟(jì)與企業(yè)類謠言占比最高，達(dá)到43.71%。

今年5月科大訊飛曾遭遇AI“小作文”，造成當(dāng)日午后股價(jià)跳水，盤中一度跌超9%。

解決：用AI技術(shù)對抗AI謠言

相關(guān)部門已經(jīng)陸續(xù)出臺了多個(gè)文件，如《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等，對平臺在內(nèi)容治理中的責(zé)任和義務(wù)予以明確。

據(jù)記者不完全梳理，AI造謠鏈條環(huán)節(jié)中，主要涉及四個(gè)參與方：技術(shù)提供者、使用AI技術(shù)造謠的人或機(jī)構(gòu)、平臺以及轉(zhuǎn)發(fā)相關(guān)謠言的用戶。當(dāng)前的法律法規(guī)對于后三個(gè)參與方都有相關(guān)規(guī)范。技術(shù)提供者是否需要承擔(dān)責(zé)任？又該承擔(dān)何種程度的責(zé)任？

朱悅提示，對于上述問題的回應(yīng)要考慮發(fā)展、安全相平衡。一方面，如果是作為一個(gè)純粹的技術(shù)提供者并不參與后續(xù)傳播，一般不適合給予太重的義務(wù)或者責(zé)任；另一方面，考慮技術(shù)提供者是從源頭提供的技術(shù)服務(wù)，那么他在算法、結(jié)果輸出方面需要做一些平衡設(shè)計(jì)，如添加一定的標(biāo)識、留存相應(yīng)的日志信息等。

值得注意的是，標(biāo)識成為當(dāng)下防范虛假內(nèi)容的重要手段之一。AI生成內(nèi)容亦真亦假，添加標(biāo)識不僅起到提示作用，還可幫助確認(rèn)信息來源。

今年9月份國家互聯(lián)網(wǎng)信息辦公室就《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》（以下簡稱“征求意見稿”）公開征求意見。

“征求意見稿不僅要求技術(shù)提供方要做明顯標(biāo)識，也要求傳播平臺提供相應(yīng)標(biāo)識以明確某內(nèi)容是否為AI生成。通過標(biāo)識明確AI生成內(nèi)容，減少誤導(dǎo)，減弱虛假信息的傳播效果?！眲源赫f。

對于包含謠言在內(nèi)的虛假信息治理是全世界的共同課題，AI虛假信息的治理，離不開技術(shù)。

“可以考慮用AI對抗AI謠言。通過總結(jié)謠言規(guī)律，研發(fā)相應(yīng)的技術(shù)模型，以解決AI謠言的問題?！眲源赫f。在她看來，AI造謠還需事后采取相關(guān)機(jī)制減弱影響。如對某些高頻傳播謠言的賬號予以管控，強(qiáng)化事后辟謠、建立舉報(bào)機(jī)制等。

近期，來自O(shè)penAI、哈佛大學(xué)、微軟、牛津大學(xué)的研究者共同撰寫了一篇題為《Personhood creden-tials:Artificial intelligence and the value of privacy-preserving tools to distinguish who is real online》（人格證書：人工智能時(shí)代的隱私保護(hù)真人驗(yàn)證工具）的文章。文章提出，可通過人格證書（Personhood Credentials）這種在線身份驗(yàn)證工具，對抗由AI驅(qū)動的包含虛假信息在內(nèi)的各種行為。

“未來時(shí)代的人，疊加AI技術(shù)，生產(chǎn)信息的能力會大幅提高，也可能生產(chǎn)謠言。文章提及的人格證書，可以視為通過加強(qiáng)驗(yàn)證的方式防范上述情況產(chǎn)生?！敝鞇傉f。