今年兩會(huì)期間,全國(guó)政協(xié)委員靳東和全國(guó)人大代表雷軍均關(guān)注到“AI換臉”問(wèn)題。靳東指出該技術(shù)導(dǎo)致詐騙問(wèn)題引發(fā)熱議;雷軍則在其議案中提到,“AI換臉擬聲”濫用已成為違法侵權(quán)的重災(zāi)區(qū)。在互聯(lián)網(wǎng)與人工智能深度融合的背景下,多模態(tài)AIGC(AI-Generated Content:一種利用AI技術(shù)自動(dòng)生成內(nèi)容的新型生產(chǎn)方式)因其卓越的內(nèi)容創(chuàng)造能力,迅速擴(kuò)展至傳媒、教育、娛樂(lè)和營(yíng)銷(xiāo)等多個(gè)領(lǐng)域。多模態(tài)人工智能生成內(nèi)容技術(shù)融合語(yǔ)言理解、圖像處理和語(yǔ)音識(shí)別等多種科技,通過(guò)算力對(duì)文本、圖像、音頻及視頻等不同類(lèi)型數(shù)據(jù)特征進(jìn)行提取、整合與建模,模型能夠自動(dòng)識(shí)別這些數(shù)據(jù)之間的關(guān)系和深層次含義,進(jìn)而生成內(nèi)容。這種技術(shù)的應(yīng)用不僅顯著提高了內(nèi)容生成的速度和豐富性,也為各個(gè)領(lǐng)域帶來(lái)了源源不斷的創(chuàng)新動(dòng)力。然而,多模態(tài)人工智能生成內(nèi)容技術(shù)的廣泛應(yīng)用,也導(dǎo)致了虛假信息和侵權(quán)內(nèi)容批量化生成。特別是對(duì)“換臉”“擬聲”等違規(guī)侵權(quán)行為的濫用,擾亂網(wǎng)絡(luò)信息的傳播秩序,并對(duì)網(wǎng)絡(luò)環(huán)境與內(nèi)容生態(tài)產(chǎn)生負(fù)面影響。數(shù)字產(chǎn)品的基石在于信息真實(shí)可信,在A(yíng)IGC生成的過(guò)程中,數(shù)據(jù)源與算法模型的復(fù)雜交織,信息在生成、傳遞與處理的各個(gè)環(huán)節(jié)頻繁地進(jìn)行轉(zhuǎn)換和跨平