在互聯(lián)網(wǎng)與人工智能深度融合的背景下，多模態(tài)人工智能生成內(nèi)容技術(shù)（AIGC）融合語(yǔ)言理解、圖像處理和語(yǔ)音識(shí)別等科技，通過(guò)算力對(duì)文本、圖像、音頻及視頻等不同類(lèi)型數(shù)據(jù)特征進(jìn)行提取、整合與建模，進(jìn)而生成相應(yīng)內(nèi)容。一方面，這提高了內(nèi)容生成的速度和豐富性，為多個(gè)領(lǐng)域帶來(lái)創(chuàng)新動(dòng)力；另一方面，它也會(huì)引發(fā)虛假信息和侵權(quán)內(nèi)容批量化生成，如“AI換臉擬聲”等。

在A(yíng)IGC生成過(guò)程中，數(shù)據(jù)源與算法模型的復(fù)雜交織。信息在生成、傳遞與處理的各個(gè)環(huán)節(jié)頻繁地進(jìn)行轉(zhuǎn)換以及跨平臺(tái)整合，大幅增加了追溯難度。同時(shí)，對(duì)原創(chuàng)性標(biāo)準(zhǔn)的界定模糊，也使版權(quán)風(fēng)險(xiǎn)上升，加劇了治理復(fù)雜性。新形勢(shì)下，有必要推進(jìn)AIGC治理的科學(xué)性、協(xié)作性、實(shí)效性，以維護(hù)網(wǎng)絡(luò)空間清朗。

第一，預(yù)防為先，強(qiáng)化規(guī)則與技術(shù)保障。

一方面，厘清AIGC監(jiān)管框架?？蓪?shí)施針對(duì)“AI換臉擬聲”的相關(guān)規(guī)則或制度，讓從模型構(gòu)建、數(shù)據(jù)獲取、用戶(hù)交互到應(yīng)用場(chǎng)景等各個(gè)方面都能“有法可依”。通過(guò)明確責(zé)任邊界與責(zé)任歸屬，提升政策與法律的科學(xué)性、前瞻性，規(guī)范當(dāng)下問(wèn)題，預(yù)防潛在風(fēng)險(xiǎn)，為內(nèi)容治理奠定堅(jiān)實(shí)基礎(chǔ)。

另一方面，善用AI技術(shù)治理AI。通過(guò)融合多種技術(shù)構(gòu)建高效的多模態(tài)聯(lián)合檢測(cè)模型，利用深度學(xué)習(xí)技術(shù)精準(zhǔn)識(shí)別虛假、侵權(quán)和不良信息，提前識(shí)別和應(yīng)對(duì)潛在的威脅，最大限度遏制不良信息生成和傳播。技術(shù)與法律的結(jié)合，既賦予技術(shù)更強(qiáng)的治理能力，又確保技術(shù)在法律框架內(nèi)有序發(fā)展，實(shí)現(xiàn)技術(shù)賦能、法律規(guī)制的良性互動(dòng)。

第二，源頭治理，規(guī)范內(nèi)容生成全流程。

源頭治理是內(nèi)容治理的關(guān)鍵環(huán)節(jié)。網(wǎng)絡(luò)平臺(tái)應(yīng)主動(dòng)履行社會(huì)責(zé)任，從算法構(gòu)思、數(shù)據(jù)收集和標(biāo)注到模型訓(xùn)練、內(nèi)容創(chuàng)作和發(fā)布進(jìn)行嚴(yán)格監(jiān)管。可引入?yún)^(qū)塊鏈技術(shù)對(duì)AIGC的生成及傳播進(jìn)行全程記錄，借助其不可篡改的特點(diǎn)確保內(nèi)容來(lái)源和流通信息清晰可追溯；優(yōu)化數(shù)據(jù)標(biāo)注與質(zhì)量控制體系，剔除虛假、錯(cuò)誤或有偏見(jiàn)的數(shù)據(jù)；設(shè)置專(zhuān)門(mén)的“AI創(chuàng)作”標(biāo)簽，以幫助用戶(hù)更容易識(shí)別出AI生成的內(nèi)容；完善審核機(jī)制，配備審核團(tuán)隊(duì)，結(jié)合機(jī)器初篩與人工復(fù)審，提高審核效率和準(zhǔn)確性。

通過(guò)規(guī)范內(nèi)容生成的全流程，不僅可以減少虛假信息的產(chǎn)生，還能提升內(nèi)容的質(zhì)量和可信度。平臺(tái)作為內(nèi)容生成和傳播的重要載體，有義務(wù)在算法設(shè)計(jì)和數(shù)據(jù)管理上嚴(yán)格把關(guān)，確保生成內(nèi)容符合法律法規(guī)和社會(huì)道德標(biāo)準(zhǔn)。全流程的管理不僅是一種責(zé)任，更是對(duì)平臺(tái)自身聲譽(yù)和可持續(xù)發(fā)展的保障。

第三，多元協(xié)作，完善協(xié)同治理新機(jī)制。

多元化合作是應(yīng)對(duì)復(fù)雜治理問(wèn)題的有效途徑。政府應(yīng)建立人工智能生成內(nèi)容企業(yè)的備案登記，以加強(qiáng)對(duì)企業(yè)資質(zhì)、數(shù)據(jù)安全和算法透明度的監(jiān)管。相關(guān)監(jiān)管機(jī)構(gòu)應(yīng)構(gòu)建跨部門(mén)協(xié)同監(jiān)管機(jī)制，定期對(duì)AIGC平臺(tái)實(shí)施評(píng)估和檢查。同時(shí)，推動(dòng)行業(yè)協(xié)會(huì)制定自律準(zhǔn)則，引導(dǎo)企業(yè)自覺(jué)遵守，加強(qiáng)行業(yè)內(nèi)部監(jiān)督與管理。

政府、企業(yè)、行業(yè)協(xié)會(huì)等各方力量的協(xié)同合作，可以形成全方位、多層次的治理體系：政府監(jiān)管統(tǒng)籌發(fā)展與安全，為行業(yè)的發(fā)展指明方向；企業(yè)的自我約束筑牢信息安全第一道屏障；行業(yè)團(tuán)體所制定的自律準(zhǔn)則以及國(guó)家間的協(xié)作，可以為有效治理提供更為廣闊的視野和更豐富的資源。

此外，有必要激勵(lì)公眾積極參與對(duì)AIGC的監(jiān)督。通過(guò)各種途徑，增強(qiáng)公眾對(duì)AIGC的理解和認(rèn)識(shí)，提升數(shù)字素養(yǎng)；關(guān)注“數(shù)字弱勢(shì)群體”，推動(dòng)彌合“AI數(shù)字鴻溝”，增強(qiáng)公眾識(shí)別虛假信息、侵權(quán)內(nèi)容及有害信息的能力，提升對(duì)個(gè)人隱私保護(hù)和著作權(quán)保護(hù)的關(guān)注。在此基礎(chǔ)上，還應(yīng)為公眾提供便捷的投訴、舉報(bào)、反饋渠道與回應(yīng)、救濟(jì)服務(wù)，增強(qiáng)公眾參與治理的獲得感和信任感。

（作者為上海師范大學(xué)黨委宣傳部副部長(zhǎng)）

鏈接地址：https://www.shobserver.com/staticsg/res/html/journal/detail.html?code=jfrb&date=2025-03-18&id=423880&page=10

https://www.shobserver.com/journal/article/share?id=423880