人工智能（AI）、深度合成等新技術(shù)快速發(fā)展，對(duì)加快形成新質(zhì)生產(chǎn)力、實(shí)現(xiàn)經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展起到關(guān)鍵作用，也為人們的生活帶來(lái)便利。然而，部分不法分子利用AI技術(shù)傳播虛假信息，破壞網(wǎng)絡(luò)生態(tài)，造成不良影響。

　　多管齊下防范對(duì)AI技術(shù)的濫用，促進(jìn)人工智能健康發(fā)展，有利于維護(hù)社會(huì)共同利益?！度斯ぶ悄苌珊铣蓛?nèi)容標(biāo)識(shí)辦法》通過(guò)標(biāo)識(shí)提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識(shí)責(zé)任義務(wù)，規(guī)范制作、傳播各環(huán)節(jié)標(biāo)識(shí)行為。

　　持續(xù)打擊灰色產(chǎn)業(yè)鏈

　　一天，林某躺在床上刷著短視頻，一個(gè)名為“AI理財(cái)小助手”的賬號(hào)出現(xiàn)在屏幕上。林某在其主頁(yè)里瀏覽了一番，發(fā)現(xiàn)賬號(hào)粉絲數(shù)顯示“8.7萬(wàn)”，但最新視頻的點(diǎn)贊數(shù)還不到三位數(shù)。

　　“公式化命名、同質(zhì)化內(nèi)容、異?；?dòng)數(shù)據(jù)，這些是AI起號(hào)的特征?！蹦扯桃曨l平臺(tái)內(nèi)容安全部門負(fù)責(zé)人劉珊介紹。AI起號(hào)成為一些自媒體的牟利手段，利用AI生成發(fā)布吸引眼球的內(nèi)容，在短時(shí)間內(nèi)吸引大量粉絲，之后通過(guò)帶貨或者直接轉(zhuǎn)讓賬號(hào)變現(xiàn)。

　　“利用AI選擇漲粉領(lǐng)域，打造能夠吸粉的人設(shè)，賬號(hào)內(nèi)容也可以通過(guò)AI生成?！笔圪u“AI起號(hào)課程”的“培訓(xùn)師”楊某說(shuō)。一方面不受做自媒體需要的專業(yè)知識(shí)、制作能力限制；另一方面，可以幫助精準(zhǔn)吸粉，并保持“人設(shè)一致”。此外，還能同時(shí)操作多個(gè)賬號(hào)，形成矩陣，互相引流，合作推廣。

　　“情緒急救：人生低谷期如何防止情緒崩盤”“深度療愈：看見潛意識(shí)中的自己”……楊某向記者展示了一個(gè)剛開號(hào)不久的“心理學(xué)博主”的賬號(hào)頁(yè)面。每個(gè)標(biāo)題看上去專業(yè)感十足，又直擊特定群體心理需求?！捌鋵?shí)文案全靠AI生成?！睏钅痴f(shuō)。

　　虛假的人設(shè)、不嚴(yán)謹(jǐn)?shù)膬?nèi)容、夸張的畫面，如此起號(hào)，對(duì)網(wǎng)絡(luò)空間環(huán)境危害不小。

　　如何打擊利用AI起號(hào)的行為？

　　“AI起號(hào)的主要危害在于偽造，治理關(guān)鍵也在于此?！北本┼]電大學(xué)互聯(lián)網(wǎng)治理與法律研究中心執(zhí)行主任謝永江認(rèn)為，除了強(qiáng)化執(zhí)法打擊外，平臺(tái)也應(yīng)提高對(duì)深度偽造內(nèi)容的檢測(cè)精度，明確對(duì)AI造假起號(hào)等違規(guī)行為的界定和處罰標(biāo)準(zhǔn)等。

　　“起號(hào)—轉(zhuǎn)型—轉(zhuǎn)賣”的灰色產(chǎn)業(yè)鏈，是AI起號(hào)相較其他AI偽造現(xiàn)象的獨(dú)有特點(diǎn)。

　　“根據(jù)反電信網(wǎng)絡(luò)詐騙法規(guī)定，任何單位和個(gè)人不得非法買賣、出租、出借互聯(lián)網(wǎng)賬號(hào)。”某電商平臺(tái)安全運(yùn)營(yíng)負(fù)責(zé)人表示，各個(gè)電商平臺(tái)均已禁止賬號(hào)轉(zhuǎn)賣。但有一些賬號(hào)交易還是通過(guò)社交媒體發(fā)布，借助“隱晦暗語(yǔ)”等私下進(jìn)行。

　　“賣號(hào)不僅是AI起號(hào)的變現(xiàn)途徑，通常還伴隨詐騙等違法犯罪行為?！北本煼洞髮W(xué)法學(xué)院教授梁迎修建議，監(jiān)管部門督促平臺(tái)履行治理責(zé)任，建立違規(guī)賬號(hào)“黑名單”，對(duì)高頻、反復(fù)觸犯平臺(tái)規(guī)則的賬號(hào)主體加大處罰力度，禁止違規(guī)賬號(hào)進(jìn)行帶貨、賣課等商業(yè)活動(dòng)，持續(xù)開展AI造假起號(hào)整治，切斷不法分子獲利渠道。

　　有效攔截仿冒營(yíng)銷內(nèi)容

　　“今天有事請(qǐng)大家?guī)兔Α饶贸?00單老家的土雞蛋給大家發(fā)福利！”不久前，在某短視頻平臺(tái)上，一名廣受喜愛的運(yùn)動(dòng)員“推銷老家農(nóng)產(chǎn)品”，彈幕和評(píng)論里全是“支持”“為偶像沖銷量”的文字。其實(shí)，這些帶貨視頻全都是利用AI仿冒的，其中一個(gè)商品鏈接顯示已售出4.7萬(wàn)件。

　　據(jù)某短視頻平臺(tái)負(fù)責(zé)人介紹，冒充社會(huì)知名人士的情況主要有幾種：利用AI技術(shù)生成社會(huì)知名人士圖片，用作賬號(hào)頭像，仿冒假冒他人；利用AI技術(shù)生成社會(huì)知名人士視頻且不做標(biāo)注；仿冒假冒社會(huì)名人賬號(hào)和生成內(nèi)容后，博取關(guān)注，通過(guò)開設(shè)櫥窗售貨等方式不當(dāng)獲利。

　　如何治理這一亂象？

　　“AI仿冒名人，歸根到底還是利用AI造假。民法典對(duì)肖像權(quán)和聲音權(quán)利的規(guī)定以及其他相關(guān)法規(guī)，都已作出相關(guān)保護(hù)?！度斯ぶ悄苌珊铣蓛?nèi)容標(biāo)識(shí)辦法》對(duì)人工智能生成合成內(nèi)容標(biāo)識(shí)提出要求?！绷河拚J(rèn)為，關(guān)鍵還是要嚴(yán)格執(zhí)法，公正司法。

　　“從平臺(tái)角度來(lái)說(shuō)，除了壓實(shí)自身責(zé)任，還要與用戶聯(lián)動(dòng)，強(qiáng)化共治。”騰訊相關(guān)負(fù)責(zé)人表示，用戶發(fā)現(xiàn)未標(biāo)注AI生成標(biāo)識(shí)的短視頻時(shí)，可提交相關(guān)材料進(jìn)行投訴。經(jīng)平臺(tái)審核通過(guò)的補(bǔ)充說(shuō)明將以浮動(dòng)標(biāo)注形式展現(xiàn)在原視頻頁(yè)面。

　　抖音相關(guān)負(fù)責(zé)人表示，平臺(tái)已為社會(huì)知名人士建立肖像保護(hù)庫(kù)，同時(shí)努力對(duì)仿冒營(yíng)銷內(nèi)容進(jìn)行有效攔截。

　　多方協(xié)作建立辟謠機(jī)制

　　“突發(fā)爆炸！火光沖天！傷亡不明！”一則“視頻新聞”在網(wǎng)上流傳，畫面中火光沖天，引發(fā)當(dāng)?shù)厝罕娍只?。后?lái)公安機(jī)關(guān)調(diào)查發(fā)現(xiàn)，這是賬號(hào)所屬機(jī)構(gòu)使用AI批量生成的虛假新聞。該機(jī)構(gòu)一天最多能生成4000至7000篇假新聞，每天收入在1萬(wàn)元以上。

　　為何AI制作的虛假新聞在網(wǎng)絡(luò)上屢禁不止？

　　某新聞聚合平臺(tái)內(nèi)容安全負(fù)責(zé)人認(rèn)為，一些平臺(tái)的反虛假信息機(jī)制效率有待提升，某些賬戶在平臺(tái)發(fā)布AI生成圖片視頻后，“疑似AI技術(shù)生成”的提示語(yǔ)數(shù)小時(shí)后才出現(xiàn)，未能及時(shí)提醒風(fēng)險(xiǎn)。

　　中南大學(xué)法學(xué)院副院長(zhǎng)楊清望認(rèn)為，平臺(tái)應(yīng)根據(jù)權(quán)威信息立即對(duì)相關(guān)謠言采取清理、標(biāo)簽標(biāo)記等措施，并處置違規(guī)賬號(hào)。

　　近年來(lái)，相關(guān)法律法規(guī)不斷健全完善，向AI使用者和平臺(tái)管理者亮明了法律底線。北京師范大學(xué)新聞傳播學(xué)院教授許小可建議，針對(duì)生成和傳播虛假信息的高風(fēng)險(xiǎn)領(lǐng)域，可以通過(guò)司法解釋等形式明確各方義務(wù)邊界，進(jìn)一步制定科學(xué)合理的AI侵權(quán)責(zé)任認(rèn)定指導(dǎo)標(biāo)準(zhǔn)。

　　在以技術(shù)對(duì)抗虛假新聞方面，各地監(jiān)管部門也在不斷探索?！拔覀兣c科研機(jī)構(gòu)、企業(yè)密切合作，進(jìn)一步提高對(duì)惡意‘深度偽造’信息的監(jiān)測(cè)預(yù)警和快速識(shí)別能力。通過(guò)與相關(guān)部門合作建立網(wǎng)絡(luò)謠言巡查監(jiān)測(cè)、核查反饋、會(huì)商研判、線索移送、打擊處置的閉環(huán)機(jī)制，對(duì)AI合成的虛假信息第一時(shí)間依法依規(guī)處理?！边|寧沈陽(yáng)市公安網(wǎng)絡(luò)安全保衛(wèi)部門負(fù)責(zé)人說(shuō)。

　　若因虛假消息遭受損失，責(zé)任誰(shuí)來(lái)承擔(dān)？浙江師范大學(xué)特聘教授喬巴生認(rèn)為，內(nèi)容制作方若涉嫌欺詐，應(yīng)承擔(dān)侵權(quán)責(zé)任；若平臺(tái)未盡審核義務(wù)，需依法承擔(dān)連帶賠償責(zé)任。此外，用戶也應(yīng)提升對(duì)虛假信息的鑒別能力。

　　某短視頻平臺(tái)負(fù)責(zé)人建議，首先，警惕內(nèi)容特征，如AI生成文本常出現(xiàn)邏輯斷層、情感表達(dá)單一或事實(shí)細(xì)節(jié)模糊；視頻可能存在面部表情不自然、光影異?；蚵曇羰д?。其次，核查信息來(lái)源，優(yōu)先選擇權(quán)威媒體或官方渠道。騰訊相關(guān)負(fù)責(zé)人建議，在一些AI生成內(nèi)容明顯缺乏可信度、具有信息誤導(dǎo)等特征時(shí)，用戶可通過(guò)評(píng)論區(qū)互動(dòng)等形式相互提醒，并通過(guò)投訴等形式及時(shí)反饋到平臺(tái)。

　　監(jiān)管、平臺(tái)與用戶聯(lián)動(dòng)共治，通過(guò)技術(shù)檢測(cè)、投訴機(jī)制和法律追責(zé)，共同筑牢誠(chéng)信防線。

　　《 人民日?qǐng)?bào) 》（ 2025年11月28日 16 版）

分享讓更多人看到