今年兩會(huì)期間，全國(guó)政協(xié)委員靳東和全國(guó)人大代表雷軍均關(guān)注到“AI換臉”問(wèn)題。靳東指出該技術(shù)導(dǎo)致詐騙問(wèn)題引發(fā)熱議；雷軍則在其議案中提到，“AI換臉擬聲”濫用已成為違法侵權(quán)的重災(zāi)區(qū)。在互聯(lián)網(wǎng)與人工智能深度融合的背景下，多模態(tài)AIGC（AI-Generated Content：一種利用AI技術(shù)自動(dòng)生成內(nèi)容的新型生產(chǎn)方式）因其卓越的內(nèi)容創(chuàng)造能力，迅速擴(kuò)展至傳媒、教育、娛樂(lè)和營(yíng)銷(xiāo)等多個(gè)領(lǐng)域。多模態(tài)人工智能生成內(nèi)容技術(shù)融合語(yǔ)言理解、圖像處理和語(yǔ)音識(shí)別等多種科技，通過(guò)算力對(duì)文本、圖像、音頻及視頻等不同類(lèi)型數(shù)據(jù)特征進(jìn)行提取、整合與建模，模型能夠自動(dòng)識(shí)別這些數(shù)據(jù)之間的關(guān)系和深層次含義，進(jìn)而生成內(nèi)容。這種技術(shù)的應(yīng)用不僅顯著提高了內(nèi)容生成的速度和豐富性，也為各個(gè)領(lǐng)域帶來(lái)了源源不斷的創(chuàng)新動(dòng)力。

然而，多模態(tài)人工智能生成內(nèi)容技術(shù)的廣泛應(yīng)用，也導(dǎo)致了虛假信息和侵權(quán)內(nèi)容批量化生成。特別是對(duì)“換臉”“擬聲”等違規(guī)侵權(quán)行為的濫用，擾亂網(wǎng)絡(luò)信息的傳播秩序，并對(duì)網(wǎng)絡(luò)環(huán)境與內(nèi)容生態(tài)產(chǎn)生負(fù)面影響。數(shù)字產(chǎn)品的基石在于信息真實(shí)可信，在A(yíng)IGC生成的過(guò)程中，數(shù)據(jù)源與算法模型的復(fù)雜交織，信息在生成、傳遞與處理的各個(gè)環(huán)節(jié)頻繁地進(jìn)行轉(zhuǎn)換和跨平臺(tái)整合，大幅增加信息真實(shí)性追溯的難度。同時(shí)，對(duì)原創(chuàng)性標(biāo)準(zhǔn)的界定模糊化也使版權(quán)風(fēng)險(xiǎn)上升，進(jìn)一步加劇治理的復(fù)雜性。因此，有必要大力加強(qiáng)多模態(tài)AIGC治理的科學(xué)性、協(xié)作性與實(shí)效性，以共同維護(hù)網(wǎng)絡(luò)空間清朗。

一、預(yù)防為先，強(qiáng)化法律與技術(shù)保障

人工智能的健康發(fā)展需要技術(shù)與法律的協(xié)同發(fā)力。首先，應(yīng)厘清AIGC監(jiān)管的法律框架，制定專(zhuān)門(mén)針對(duì)多模態(tài)AIGC領(lǐng)域的法律制度，使從模型構(gòu)建、數(shù)據(jù)獲取、用戶(hù)交互到應(yīng)用場(chǎng)景等各個(gè)方面，都能實(shí)現(xiàn)法律的全面覆蓋。通過(guò)明確法律邊界與責(zé)任歸屬，提升立法的科學(xué)性和前瞻性，為內(nèi)容治理奠定堅(jiān)實(shí)的法律基礎(chǔ)。完善法律體系不僅能夠規(guī)范當(dāng)前的問(wèn)題，更能預(yù)防未來(lái)潛在風(fēng)險(xiǎn)，減少虛假信息和侵權(quán)行為的滋生。其次，技術(shù)手段同樣發(fā)揮著重要的作用。應(yīng)善用AI技術(shù)治理AI，通過(guò)融合多種技術(shù)構(gòu)建高效的多模態(tài)聯(lián)合檢測(cè)模型，利用深度學(xué)習(xí)技術(shù)精準(zhǔn)識(shí)別虛假、侵權(quán)和不良信息。借助技術(shù)手段，提前識(shí)別和應(yīng)對(duì)潛在的威脅，最大限度地遏制不良信息的生成和傳播。技術(shù)與法律的結(jié)合，既賦予技術(shù)更強(qiáng)的治理能力，又確保技術(shù)在法律框架內(nèi)有序發(fā)展，實(shí)現(xiàn)技術(shù)賦能、法律規(guī)制的良性互動(dòng)。

二、源頭治理，規(guī)范內(nèi)容生成全流程

源頭治理是內(nèi)容治理的關(guān)鍵環(huán)節(jié)。網(wǎng)絡(luò)平臺(tái)需要主動(dòng)履行社會(huì)責(zé)任，要對(duì)從算法構(gòu)思、數(shù)據(jù)收集和標(biāo)注，到模型訓(xùn)練，直至內(nèi)容創(chuàng)作和發(fā)布的整個(gè)過(guò)程進(jìn)行嚴(yán)格監(jiān)管。引入?yún)^(qū)塊鏈技術(shù)對(duì)多模態(tài)AIGC的生成及傳播過(guò)程進(jìn)行全程記錄，借助其不可篡改的特點(diǎn)，確保內(nèi)容的來(lái)源和流通信息清晰可追溯。應(yīng)設(shè)置專(zhuān)門(mén)的“AI創(chuàng)作”標(biāo)簽，以幫助用戶(hù)更容易地識(shí)別出AI生成的內(nèi)容。建立嚴(yán)格的審核機(jī)制，配備專(zhuān)業(yè)審核團(tuán)隊(duì)，結(jié)合機(jī)器初篩與人工復(fù)審，提高審核效率和準(zhǔn)確性。優(yōu)化數(shù)據(jù)標(biāo)注與質(zhì)量控制體系，剔除虛假、錯(cuò)誤或有偏見(jiàn)的數(shù)據(jù)，從源頭降低不良內(nèi)容生成的風(fēng)險(xiǎn)。通過(guò)規(guī)范內(nèi)容生成的全流程，不僅可以減少虛假信息的產(chǎn)生，還能提升內(nèi)容的質(zhì)量和可信度。平臺(tái)作為內(nèi)容生成和傳播的重要載體，必須在算法設(shè)計(jì)和數(shù)據(jù)管理上嚴(yán)格把關(guān)，確保生成內(nèi)容符合法律法規(guī)和社會(huì)道德標(biāo)準(zhǔn)。全流程的管理不僅是一種責(zé)任，更是對(duì)平臺(tái)自身聲譽(yù)和可持續(xù)發(fā)展的保障。

三、多元協(xié)作，完善協(xié)同治理新機(jī)制

多元化合作是應(yīng)對(duì)復(fù)雜治理問(wèn)題的有效途徑。政府需要建立人工智能生成內(nèi)容企業(yè)的備案登記，以加強(qiáng)對(duì)企業(yè)資質(zhì)、數(shù)據(jù)安全和算法透明度的監(jiān)管。相關(guān)監(jiān)管機(jī)構(gòu)應(yīng)構(gòu)建跨部門(mén)協(xié)同監(jiān)管機(jī)制，以形成綜合性的監(jiān)管措施，并定期對(duì)多模態(tài)AIGC平臺(tái)實(shí)施評(píng)估和檢查。推動(dòng)行業(yè)協(xié)會(huì)制定自律準(zhǔn)則，引導(dǎo)企業(yè)自覺(jué)遵守，實(shí)現(xiàn)行業(yè)內(nèi)部監(jiān)督與管理。加強(qiáng)國(guó)際合作，共同制定國(guó)際規(guī)則和標(biāo)準(zhǔn)，構(gòu)建全球性的AIGC治理體系。政府、企業(yè)、行業(yè)協(xié)會(huì)、國(guó)際組織等各方力量的協(xié)同合作，可以形成全方位、多層次的治理體系。政府監(jiān)管統(tǒng)籌發(fā)展與安全，為行業(yè)的發(fā)展指明方向；企業(yè)的自我約束筑牢信息安全第一道屏障；行業(yè)團(tuán)體所制定的自律準(zhǔn)則以及國(guó)家間的協(xié)作，可以為有效治理提供更為廣闊的視野和更豐富的資源。

四、依靠群眾，構(gòu)建全社會(huì)參與格局

在治理多模態(tài)AIGC的過(guò)程中，公眾不僅僅扮演著內(nèi)容消費(fèi)者的角色，更是治理體系中不可或缺的主體之一。應(yīng)當(dāng)激勵(lì)廣大公眾積極參與對(duì)多模態(tài)AIGC的監(jiān)督，引導(dǎo)社會(huì)組織參與共治，實(shí)現(xiàn)共建共享。通過(guò)各種途徑，如媒體宣傳、學(xué)校教育及社區(qū)活動(dòng)，增強(qiáng)社會(huì)公眾對(duì)多模態(tài)AIGC技術(shù)的理解和認(rèn)識(shí)，提升公眾數(shù)字素養(yǎng)。關(guān)注數(shù)字弱勢(shì)群體，推動(dòng)彌合AI數(shù)字鴻溝，增強(qiáng)公眾識(shí)別虛假信息、侵權(quán)內(nèi)容及有害信息的能力，提升對(duì)個(gè)人隱私保護(hù)和著作權(quán)保護(hù)的關(guān)注。為公眾提供便捷的反饋渠道，使公眾能夠及時(shí)反映問(wèn)題、提出建議，增強(qiáng)公眾參與治理的獲得感和信任感，從而提升基層治理的效能。

隨著多模態(tài)AIGC技術(shù)在元宇宙、虛擬現(xiàn)實(shí)等新興領(lǐng)域的應(yīng)用不斷拓展，網(wǎng)絡(luò)空間內(nèi)容治理正迎來(lái)前所未有的機(jī)遇，同時(shí)也面臨著諸多新的挑戰(zhàn)。為此，我們必須持續(xù)推進(jìn)治理技術(shù)創(chuàng)新，進(jìn)一步完善法律法規(guī)，不斷強(qiáng)化行業(yè)自律，持續(xù)提升公眾素養(yǎng)，并著力構(gòu)建一個(gè)更加健全、完善的治理體系。

（作者為上海師范大學(xué)黨委宣傳部副部長(zhǎng)（新聞中心主任））

鏈接地址：https://www.shobserver.com/staticsg/res/html/web/newsDetail.html?id=871551