龔先生

近日，一條以某汽車品牌展臺(tái)為背景的不雅視頻，在互聯(lián)網(wǎng)瘋狂傳播，引發(fā)關(guān)注。經(jīng)公安機(jī)關(guān)調(diào)查，視頻實(shí)為不法分子李某利用AI工具偽造。

12月10日，中國(guó)籃球協(xié)會(huì)發(fā)布聲明稱，近期，網(wǎng)上針對(duì)中國(guó)女籃教練和運(yùn)動(dòng)員的不實(shí)信息與謠言，部分音視頻為AI技術(shù)偽造。此前，某地公安機(jī)關(guān)查獲某機(jī)構(gòu)利用AI批量生產(chǎn)假新聞，1天就能生成 7000篇內(nèi)容炸裂、驚悚的假新聞。

（圖源 新華社）

當(dāng)下，濫用AI的問(wèn)題，在多個(gè)領(lǐng)域顯現(xiàn)。

偽造名人聲音形象帶貨、學(xué)術(shù)造假、社交媒體造假起號(hào)、造假式索賠、換臉換聲詐騙……AI造假案件頻發(fā)，為人工智能深度偽造的治理再次敲響警鐘。

三個(gè)趨勢(shì)，或?qū)⒓觿≡摲矫娴碾[憂。

一方面，技術(shù)迭代的腳步不會(huì)停下。隨著從事人工智能研發(fā)的公司越來(lái)越多，技術(shù)創(chuàng)新越來(lái)越密集，產(chǎn)品迭代升級(jí)越來(lái)越快，功能將越來(lái)越強(qiáng)大，使用的門檻也會(huì)大大降低。

另一方面，AI工具毫無(wú)懸念正成為新的“基礎(chǔ)設(shè)施”。隨著AI工具的普及，網(wǎng)民使用AI工具的能力會(huì)越來(lái)越強(qiáng)。如果說(shuō)90后和00后是“網(wǎng)生代”，而20后、25后則將成為“智生代”“AI世代”，未來(lái)他們使用AI工具的能力將會(huì)“刻在基因里”。

此外，AI的應(yīng)用廣度和深度還將被大大拓展。今年10月份，有國(guó)際機(jī)構(gòu)研究發(fā)現(xiàn)，僅短短幾年，目前互聯(lián)網(wǎng)超一半的書面內(nèi)容是由AI生成的。

可以預(yù)見(jiàn)，未來(lái)AI將與經(jīng)濟(jì)社會(huì)各行各業(yè)各領(lǐng)域廣泛深度融合。

在此背景下，AI深度偽造，誤導(dǎo)網(wǎng)民、消耗社會(huì)信任，不僅侵害個(gè)人權(quán)益，更擾亂社會(huì)秩序，增加治理成本與難度，一些特定情形更會(huì)對(duì)公共安全和國(guó)家安全構(gòu)成威脅。不法分子利用深度偽造技術(shù)放大社會(huì)矛盾與對(duì)立、操縱輿論，境外敵對(duì)勢(shì)力利用AI對(duì)我進(jìn)行認(rèn)知領(lǐng)域的滲透和認(rèn)知作戰(zhàn)等，其危害之大更難想象。

（圖源 新華社）

與“智”同行，我們當(dāng)然不能因噎廢食，但邊界必須明確。完善相關(guān)法規(guī)之外，更需有“技術(shù)治理技術(shù)”的硬核實(shí)力。這要求相關(guān)方面，必須做好技術(shù)治理工具箱的超前布置。

人工智能企業(yè)和平臺(tái)必須肩負(fù)起主體負(fù)責(zé)。我國(guó)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》要求通過(guò)技術(shù)標(biāo)識(shí)提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識(shí)責(zé)任和義務(wù)，規(guī)范制作、傳播各個(gè)環(huán)節(jié)標(biāo)識(shí)行為。

客觀講，平臺(tái)企業(yè)有相關(guān)的技術(shù)和與用戶聯(lián)動(dòng)共治的天然優(yōu)勢(shì)。“以技術(shù)治理技術(shù)”，平臺(tái)層面理應(yīng)提高對(duì)深度偽造內(nèi)容的精準(zhǔn)檢測(cè)。

此外，AI鑒偽相關(guān)技術(shù)的投入和研發(fā)，值得鼓勵(lì)和期待。目前，一些科技公司已經(jīng)在從事相關(guān)技術(shù)的研發(fā)，從圖片到音視頻，為深度偽造內(nèi)容的治理，帶來(lái)了想象空間。

長(zhǎng)期來(lái)看，全社會(huì)使用AI工具素養(yǎng)的提升，也必須被高度重視。

目前，包括北京、上海、廣州、深圳等多地在內(nèi)，開(kāi)展不同層次和面向不同群體的AI課程，覆蓋了通識(shí)教育、專業(yè)技能、產(chǎn)業(yè)應(yīng)用和安全倫理等多個(gè)方向。例如，浙江杭州自2025年秋季學(xué)期起，開(kāi)始在中小學(xué)開(kāi)展人工智能通識(shí)教育，覆蓋小學(xué)至高中全學(xué)段，每學(xué)年不少于10課時(shí)。

在AI等高新技術(shù)的加持下，社會(huì)正以遠(yuǎn)超我們預(yù)期的方式演進(jìn)和重塑。在享受AI技術(shù)帶來(lái)的“賽博感”的同時(shí)，如何應(yīng)對(duì)這一顛覆性技術(shù)的風(fēng)險(xiǎn)與挑戰(zhàn)，將是我們社會(huì)面臨的一項(xiàng)長(zhǎng)期任務(wù)。