“廣州限制外賣(mài)配送”“河南信陽(yáng)市中心體育館驚險崩塌”“甘肅紅十字會(huì )收取160萬(wàn)元暖手袋管理費”……這些所謂“有圖有視有真相”的重磅“消息”，曾在網(wǎng)上廣泛傳播，引起大量網(wǎng)民關(guān)注。
令人大跌眼鏡的是，警方事后的調查發(fā)現，這些聳人聽(tīng)聞的“消息”，是不法分子使用AI制作的網(wǎng)絡(luò )謠言！盡管警方緊急辟謠、澄清事實(shí)，可謠言已經(jīng)領(lǐng)跑真相一大截，讓很多人信以為真，給當事方帶來(lái)極大困擾。
AI加持下的互聯(lián)網(wǎng)，給人們生活場(chǎng)景的豐富、生產(chǎn)效率的提升帶來(lái)了全新機遇。但當謠言披上AI的外衣時(shí)，謠言和真相更難辨認，造謠的門(mén)檻和成本極大降低，傳播的效率和產(chǎn)生的影響成倍增加，成為亟需治理的一道網(wǎng)絡(luò )新課題。
近日,多地警方通報了一批利用AI造謠的典型案例。
去年12月，甘肅積石山發(fā)生6.2級地震，張某某利用AI軟件，編造了“甘肅紅十字會(huì )采購暖手袋，收取160萬(wàn)元管理費”“甘肅執法隊扣押救災貨車(chē)”等不實(shí)信息，并通過(guò)多個(gè)網(wǎng)絡(luò )平臺進(jìn)行發(fā)布，對當地抗震救災工作造成嚴重影響。
今年2月，杜某利用AI技術(shù)，編造了“某著(zhù)名女星命運多舛、含恨離世”的短視頻，上傳網(wǎng)絡(luò )后引起廣泛傳播，嚴重影響了當事人的生活和聲譽(yù)。
一份近期審結案件的材料顯示，不法分子利用AI技術(shù)，以熱點(diǎn)新聞和隨機網(wǎng)絡(luò )視頻為素材，短時(shí)間內就制作出約1萬(wàn)條虛假視頻新聞，其中發(fā)布出去的20多條視頻，涉及多個(gè)省份，瀏覽量超過(guò)百萬(wàn)。
清華大學(xué)新聞與傳播學(xué)院新媒體研究中心今年4月發(fā)布的一份報告顯示，經(jīng)濟領(lǐng)域已成AI謠言的高發(fā)地，餐飲外賣(mài)、快遞配送等民生行業(yè)是AI謠言的重災區。
當網(wǎng)絡(luò )謠言遇上AI，后者低成本、高效率、操作簡(jiǎn)單的特點(diǎn)，使謠言視頻的批量化生產(chǎn)成為可能。AI謠言的視頻形態(tài)，也契合了部分網(wǎng)民“有圖有視頻就有真相”的認知，使得AI謠言常常一經(jīng)上網(wǎng)，就能迅速傳播。
從查獲的典型案例來(lái)看，“吸睛引流”“變現牟利”等，是不法分子屢屢提及的高頻詞。
自媒體時(shí)代，“注意力經(jīng)濟”為很多人提供了發(fā)家致富的機遇。但一些人信奉“流量至上”，為了流量，什么技術(shù)都敢用、什么手段都敢使，甚至把沖撞道德底線(xiàn)、踐踏法律紅線(xiàn)當作“流量密碼”，獵奇、八卦、低俗、編造假新聞等等，都成為追求流量的工具。
AI造謠更衍生出一條條黑灰產(chǎn)業(yè)鏈。
去年國慶假期，“4歲女童海邊走失”發(fā)生后，上海警方發(fā)現十余個(gè)散布“走失女童曾被丟棄”等虛假信息的自媒體賬號，并在進(jìn)一步偵查中打掉一個(gè)“水軍”團伙。該團伙借助AI技術(shù)，批量制造不實(shí)帖文，大量轉發(fā)炒作，非法獲利4萬(wàn)余元。
前述清華大學(xué)的研究報告，以80余件涉AI謠言案例進(jìn)行統計，發(fā)現涉案所受處理當中，占比最大的是行政處罰，包括罰款和行政拘留，約占一半；而實(shí)施刑事拘留和判刑的，不足兩成；其余則是封禁賬號、信息清理、批評教育等。
同謠言造成的破壞相比，不少網(wǎng)友認為，懲處造謠的力度還不夠剛硬。只有進(jìn)一步完善法律法規，實(shí)施更強有力的懲處，才能發(fā)揮震懾作用，遏制AI謠言黑灰產(chǎn)業(yè)蔓延勢頭。
AI謠言傳播的相關(guān)網(wǎng)絡(luò )平臺，也不能忘記平臺的主體責任。加大人力、財力、技術(shù)等多方面投入，在內容甄別、謠言攔截、防止擴散等方面展現更多主動(dòng)作為，堅決阻斷謠言傳播鏈條，切實(shí)肩負起社會(huì )責任。
走好群眾路線(xiàn)，發(fā)動(dòng)廣大網(wǎng)友，激發(fā)網(wǎng)友參與舉報AI謠言的熱情，共同筑起防范AI謠言傳播的銅墻鐵壁。
唯有如此，AI這種新生產(chǎn)工具才能揚長(cháng)避短，不為謠言生產(chǎn)、傳播助紂為虐，而為社會(huì )發(fā)展進(jìn)步貢獻更多正向力量。
(責任編輯：鄭文)
