近年來，新一代生成式人工智能（AI）以顛覆性的創(chuàng)新和應用為經(jīng)濟社會發(fā)展帶來新動能，同時也帶來一些新問題。例如，“AI換臉擬聲”侵權現(xiàn)象時有發(fā)生，引發(fā)社會廣泛關注。

今年的政府工作報告提出，持續(xù)推進 “人工智能+”行動。全國兩會上，代表委員們圍繞如何更好把握人工智能發(fā)展機遇、更好應對新技術帶來的風險挑戰(zhàn)，積極建言獻策。不少代表委員呼吁，提升綜合治理水平，推動科技向善，促進AI技術、AI產(chǎn)業(yè)健康有序發(fā)展。

AI不當濫用引發(fā)代表委員關注

小米集團創(chuàng)始人、董事長兼CEO雷軍代表表示，AI深度合成技術的快速發(fā)展，推動了“AI換臉擬聲”在影視、廣告、社交等領域廣泛興起，成為社會喜聞樂見、傳播力強、易成熱點的技術應用。

“但同時也要看到，‘AI換臉擬聲’不當濫用成了違法侵權行為的重災區(qū)，易引發(fā)侵犯肖像權、侵犯公民個人信息以及詐騙等犯罪行為，甚至造成難以挽回的大規(guī)模形象和聲譽損害，帶來社會治理等風險。AI深度合成技術具有所需素材獲取便利、技術使用門檻低、侵權主體及手段隱蔽性強等特點，給治理帶來較大挑戰(zhàn)?！崩总姶碚f。

美的集團副總裁兼首席財務官鐘錚代表在調研中發(fā)現(xiàn)，網(wǎng)絡上出現(xiàn)了一些AI生成的視頻，模仿明星或專家的形象、聲音，推銷保健品，許多老年人上當購買了這些產(chǎn)品，蒙受經(jīng)濟損失。

中國民辦教育協(xié)會副會長、云南工商學院執(zhí)行校長李孝軒委員表示，AI的高仿真性特征，讓普通人真假難辨、防不勝防。一些不法分子通過定制網(wǎng)絡釣魚郵件或短信，大肆收集個人面部、聲音等數(shù)據(jù)資料，惡搞知名企業(yè)家，借助多個AI賬號冒充名人直播帶貨，且賬號多變，應引起重視。

監(jiān)管滯后于AI技術發(fā)展

“AI技術降低了視頻制作的門檻，使得虛假內容的生成變得容易。老年人對AI生成的虛假視頻識別能力較弱，容易受到誤導?！辩婂P代表說，這與相關法律法規(guī)尚不完善，特別是在版權歸屬和隱私保護方面存在空白有關。

李孝軒委員表示，當前，我國人工智能法規(guī)體系還不完善。雖然制定發(fā)布了網(wǎng)絡安全審查辦法、《生成式人工智能服務管理暫行辦法》等多部法律規(guī)章和相關國家標準，但監(jiān)管仍滯后于AI技術發(fā)展。

雷軍代表認為，《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等法律法規(guī)已頒布實施，《人工智能生成合成內容標識辦法（征求意見稿）》完成社會意見征集，對人工智能立法進行了有益探索。但目前“AI換臉擬聲”的有關規(guī)定，效力位階偏低、內容偏原則且分散、多個部門職責交叉或職權定位有待明晰，導致現(xiàn)階段對“AI換臉擬聲”造成的侵害，只能依靠基礎法律中關于隱私權、肖像權、名譽權的零散法條來規(guī)制。

“因AI技術的復雜性、隱蔽性等特征，在查處違法違規(guī)問題時，面臨調查難、取證難、定性難等諸多難題。司法規(guī)制與監(jiān)管滯后，客觀上難以對行業(yè)亂象形成有效震懾?！崩钚④幬瘑T說。

“要規(guī)范‘AI換臉擬聲’技術的不當利用，有必要要求深度合成服務提供商對人工智能生成的內容進行強制標識，減少惡意濫用。這也有助于厘清責任、對違法犯罪行為追責?！盩CL創(chuàng)始人、董事長李東生代表表示。

加快提升綜合治理水平

針對上述問題，代表委員紛紛建言獻策。天娛數(shù)科CEO、山西數(shù)據(jù)流量谷董事長賀晗委員認為，針對AI應用中出現(xiàn)的越界、侵權等行為，應完善法律法規(guī)，制定明確且細致的條款，明確界定AI技術在不同場景下的使用邊界。對利用AI技術進行詐騙、侵犯隱私等違法犯罪行為，從懲處細則等方面給予強有力的約束，讓法律成為AI規(guī)范發(fā)展的堅實底線。

雷軍代表建議，針對“AI換臉擬聲”等代表性問題，探索推出人工智能單行法，提高立法位階及其效力，在分級分類的基礎上進行務實治理，明確“AI換臉擬聲”應用邊界紅線，完善侵權證據(jù)規(guī)則，加大對利用人工智能技術實施犯罪行為的刑事處罰力度。與時俱進探索新議題的細化監(jiān)管措施，凝聚人工智能倫理規(guī)范共識。

記者注意到，全國人大常委會工作報告明確，今年將圍繞人工智能、數(shù)字經(jīng)濟、大數(shù)據(jù)等新興領域加強立法研究。

鐘錚代表認為，有關部門應加強監(jiān)管，對不合規(guī)的AI生成視頻加大處罰力度，形成有效的震懾。同時，建立行業(yè)自律機制，引導平臺企業(yè)自覺遵守法律法規(guī)，維護平臺規(guī)則。

“平臺方應加強對AI生成視頻的審核和監(jiān)督，確保內容的真實性。開發(fā)高效的AI審核工具，并結合人工審核，通過雙重校驗提高識別準確率。”鐘錚代表說。

李孝軒委員建議，應打出“司法+技術”“管理+防范”組合拳，加快研發(fā)反AI詐騙技術、虛假AI信息識別技術，規(guī)范AI技術應用，有效遏制“AI污染”問題向社會治理領域蔓延。此外，政府部門、企業(yè)、社會等各方應加強協(xié)同，明確AI的監(jiān)管邊界和主體責任，構建面向新技術、新產(chǎn)品、新服務的共治體系，形成AI治理的協(xié)同效應，推動科技向善。 （本報北京3月8日電）