近期，在西藏日喀則市定日縣地震及美國(guó)加利福尼亞州洛杉磯縣山火發(fā)生后，不少AIGC（編者注：AI-Generated Content，是一種利用AI技術(shù)自動(dòng)生成內(nèi)容的新型生產(chǎn)方式）生成的圖片及視頻被當(dāng)作事實(shí)呈現(xiàn)，誤導(dǎo)民眾，引發(fā)人們對(duì)網(wǎng)絡(luò)空間AIGC虛假信息的擔(dān)憂(yōu)?，F(xiàn)階段，AIGC虛假信息尚可肉眼辨識(shí)，但隨著AI技術(shù)的進(jìn)步，肉眼分辨的難度將越來(lái)越高。網(wǎng)絡(luò)空間AIGC虛假信息的治理亟待加強(qiáng)，需要從法治、自治、德治、技治、智治等多維度推進(jìn)，強(qiáng)化法律法規(guī)、自律約束、倫理道德、技術(shù)手段、媒介素養(yǎng)等系統(tǒng)治理，提升治理的科學(xué)性、協(xié)同性、實(shí)效性。

進(jìn)一步完善法律法規(guī)體系以強(qiáng)化依法治理

通過(guò)細(xì)化和完善針對(duì)網(wǎng)絡(luò)空間AIGC虛假信息的法律法規(guī)，明確虛假信息的界定標(biāo)準(zhǔn)、傳播責(zé)任、處罰措施等，提高違法成本，形成法律威懾。通過(guò)建立健全專(zhuān)門(mén)的監(jiān)管機(jī)構(gòu)或部門(mén)，加強(qiáng)對(duì)AIGC服務(wù)提供者的監(jiān)管，定期對(duì)AIGC平臺(tái)進(jìn)行檢查和評(píng)估，及時(shí)發(fā)現(xiàn)和處理虛假信息傳播問(wèn)題，并加強(qiáng)協(xié)同合作，形成監(jiān)管合力，共同打擊利用AIGC傳播虛假信息的違法犯罪行為。通過(guò)推動(dòng)國(guó)際合作與立法協(xié)調(diào)，加強(qiáng)國(guó)家間的合作與交流，共同制定國(guó)際規(guī)則和標(biāo)準(zhǔn)，構(gòu)建全球性的AIGC虛假信息治理體系。

進(jìn)一步優(yōu)化平臺(tái)自律約束以提升自治效力

督促新聞資訊和社交類(lèi)平臺(tái)建立嚴(yán)格的內(nèi)容審核制度，配備專(zhuān)業(yè)的審核團(tuán)隊(duì)和先進(jìn)的技術(shù)手段，實(shí)現(xiàn)機(jī)器初篩與人工復(fù)審相結(jié)合，提高審核效率和準(zhǔn)確性，及時(shí)發(fā)現(xiàn)并刪除虛假信息。建立用戶(hù)信用體系，對(duì)平臺(tái)用戶(hù)進(jìn)行信用評(píng)估和管理，給予相應(yīng)的信用等級(jí)，對(duì)于頻繁發(fā)布虛假信息的用戶(hù)，可降低其信用等級(jí)，并采取限制發(fā)布權(quán)限、封禁賬號(hào)等措施；對(duì)于信用良好的用戶(hù)，給予激勵(lì)和獎(jiǎng)勵(lì)。加強(qiáng)AIGC平臺(tái)自律與行業(yè)規(guī)范，優(yōu)化行業(yè)標(biāo)準(zhǔn)體系，制定行業(yè)自律準(zhǔn)則，加強(qiáng)行業(yè)內(nèi)部的監(jiān)督和管理，共同維護(hù)網(wǎng)絡(luò)空間信息的真實(shí)性。

進(jìn)一步加強(qiáng)相關(guān)倫理建設(shè)以崇尚誠(chéng)實(shí)守信

AIGC平臺(tái)和相關(guān)行業(yè)要制定嚴(yán)格的倫理規(guī)范和準(zhǔn)則，將倫理規(guī)范融入AIGC技術(shù)全周期管理中，包括算法設(shè)計(jì)、數(shù)據(jù)采集與標(biāo)注、模型訓(xùn)練到內(nèi)容生成與發(fā)布等各個(gè)環(huán)節(jié)。加強(qiáng)對(duì)AIGC從業(yè)者的職業(yè)道德教育和培訓(xùn)，提高其道德素養(yǎng)和社會(huì)責(zé)任感，自覺(jué)遵守行業(yè)倫理規(guī)范，為網(wǎng)絡(luò)空間提供高質(zhì)量的AIGC內(nèi)容。在A(yíng)IGC技術(shù)研發(fā)和應(yīng)用機(jī)構(gòu)中建立倫理審查委員會(huì)或倫理審查機(jī)制，對(duì)AIGC重大項(xiàng)目和創(chuàng)新應(yīng)用進(jìn)行倫理審查，通過(guò)評(píng)估確保技術(shù)發(fā)展符合社會(huì)倫理道德要求，防止虛假信息傳播等不良后果的產(chǎn)生。

進(jìn)一步提升技術(shù)治理水平以促進(jìn)技術(shù)向善

優(yōu)化算法與模型，使生成的內(nèi)容更加符合真實(shí)世界的規(guī)律，從源頭減少虛假信息的生成。同時(shí)，加強(qiáng)對(duì)模型訓(xùn)練過(guò)程中的監(jiān)控和調(diào)整，及時(shí)發(fā)現(xiàn)并糾正可能導(dǎo)致虛假信息產(chǎn)生的參數(shù)設(shè)置或訓(xùn)練偏差。及時(shí)發(fā)現(xiàn)并處理虛假信息，利用自然語(yǔ)言處理、圖像識(shí)別、機(jī)器學(xué)習(xí)等技術(shù)，分析文本中的語(yǔ)義矛盾、邏輯漏洞，以及識(shí)別圖片和視頻中的合成破綻等，對(duì)疑似虛假信息進(jìn)行標(biāo)記和預(yù)警。優(yōu)化數(shù)據(jù)標(biāo)注與質(zhì)量控制，建立嚴(yán)格的數(shù)據(jù)標(biāo)注規(guī)范和質(zhì)量控制體系，對(duì)數(shù)據(jù)進(jìn)行細(xì)致的篩選、標(biāo)注，剔除其中虛假、錯(cuò)誤或有偏見(jiàn)的信息，優(yōu)先選用權(quán)威、可信的數(shù)據(jù)源，從數(shù)據(jù)層面降低虛假信息生成的風(fēng)險(xiǎn)。

進(jìn)一步提升公眾媒介素養(yǎng)以增強(qiáng)信息甄別能力

通過(guò)媒體普及、學(xué)校教育、社區(qū)宣傳等多種渠道，加強(qiáng)對(duì)公眾的媒介素養(yǎng)培育，培養(yǎng)公眾的信息甄別能力，提高公眾對(duì)網(wǎng)絡(luò)空間AIGC虛假信息的識(shí)別能力和防范意識(shí)，使公眾成為抵制虛假信息傳播的重要力量。健全監(jiān)督舉報(bào)機(jī)制，鼓勵(lì)公眾積極參與對(duì)網(wǎng)絡(luò)空間AIGC虛假信息的監(jiān)督和舉報(bào)，形成全社會(huì)共同參與治理的良好氛圍。廣泛開(kāi)展科普宣傳教育，從“灌輸式”向“賦能式”轉(zhuǎn)變，彌合AIGC數(shù)字鴻溝，消除公眾對(duì)新技術(shù)的誤解和恐慌，展示虛假信息的危害和治理成果，增強(qiáng)大家對(duì)治理網(wǎng)絡(luò)空間AIGC虛假信息的信心和支持度。

鏈接地址：https://mp.weixin.qq.com/s/nwpKk7qDMh0ncBC2JCjXHQ