發(fā)展科技的初心和落點都是服務(wù)于人，服務(wù)于國家和社會。讓安全和便捷成為AI技術(shù)應(yīng)用的一體兩面，成為技術(shù)發(fā)展與時代紅利的生動注腳，這無疑是對相關(guān)產(chǎn)業(yè)的挑戰(zhàn)，更是實現(xiàn)經(jīng)濟高質(zhì)量發(fā)展必須的選擇。

據(jù)11月24日《法治日報》報道，近期，某知名演員瀏覽短視頻時，意外發(fā)現(xiàn)“自己”正在直播。她在評論區(qū)提出質(zhì)疑后，被拉黑并踢出直播間，而對方仍在用“她的臉”直播帶貨。此類“冒牌直播”事件是AI換臉技術(shù)濫用的典型寫照。11月14日，中央網(wǎng)信辦官方賬號發(fā)文表示，有網(wǎng)絡(luò)賬號利用AI技術(shù)仿冒公眾人物形象，在直播、短視頻等環(huán)節(jié)發(fā)布營銷信息，目前已累計清理相關(guān)違規(guī)信息8700余條，處置仿冒公眾人物賬號1.1萬余個。

一段時間以來，AI技術(shù)濫用亂象不時令人“震碎三觀”。比如，名人的音視頻素材被合成后用來“代言”“帶貨”，甚至被用來“談戀愛”騙取受害者點贊和刷禮物；電商平臺上的部分商家用AI合成的視頻、圖文、直播間好評彈幕等做虛假宣傳，誘導(dǎo)下單；少數(shù)消費者使用AI軟件制造商品瑕疵圖片，用來不正當(dāng)維權(quán)，使商家陷入財貨兩失的風(fēng)險；個別人利用AI生成假新聞，騙取流量，制造恐慌；一些AI問答軟件在與未成年人交流時，以談戀愛之名傳播擦邊信息，甚至教唆未成年人極端行為。

當(dāng)前，我國生成式人工智能技術(shù)的發(fā)展迅猛，其中不少細分領(lǐng)域得益于大模型訓(xùn)練的不斷深化，AI技術(shù)越來越“聰明”、越來越絲滑。而AI技術(shù)應(yīng)用門檻低、成本低、效率高、產(chǎn)值高，催生了相關(guān)黑灰產(chǎn)業(yè)鏈。與此同時，相應(yīng)的監(jiān)管觸角、手段、懲戒等尚顯捉襟見肘。

一項頗具創(chuàng)造力的新技術(shù)在“放飛自我”后，其危害正日益凸顯。比如，侵犯他人肖像權(quán)、聲音權(quán)等合法權(quán)益；被用于電信網(wǎng)絡(luò)詐騙，消費“熟人”信任感；在學(xué)術(shù)不端行為中助紂為虐，侵蝕社會誠信基石等。其中，對消費者和學(xué)生群體的不良影響尤為嚴重，比如，原本以為AI給出的消費建議是綜合多方信息的最優(yōu)解，沒想到卻是人為操縱的針對性推薦廣告；AI“邪典視頻”、AI拼接的“外國山海經(jīng)”形象等引發(fā)不辨真?zhèn)蔚暮⒆觽兊淖放?，?yōu)秀傳統(tǒng)文化遭受沖擊……

隨著AI技術(shù)應(yīng)用范圍越來越廣，越來越深入人們的生活，圍繞其邊界、安全、倫理等問題的探討不少。一個不斷凝聚的共識是，科技沒有原罪，善用的前提是規(guī)范，AI生活化應(yīng)用越廣泛，我們越要明確邊界、守住底線。

我國AI技術(shù)發(fā)展擁有得天獨厚的沃土與市場。2024年，“人工智能+”行動首次被寫入政府工作報告。今年8月，國務(wù)院部署了“人工智能+”科學(xué)技術(shù)等重點行動。全國一體化算力網(wǎng)絡(luò)國家樞紐節(jié)點建設(shè)、數(shù)據(jù)要素市場化配置改革、產(chǎn)學(xué)研用協(xié)同創(chuàng)新機制不斷健全等，為AI發(fā)展提供了基礎(chǔ)支撐。與此同時，規(guī)范生成式人工智能技術(shù)的腳步不斷加快，先后出臺多項法律法規(guī)。今年9月《人工智能生成合成內(nèi)容標(biāo)識辦法》生效，為工具開發(fā)者、內(nèi)容發(fā)布者和平臺方提供了合規(guī)操作指南。部分AI工具也在探索未成年人保護模式等。

在大力發(fā)展新質(zhì)生產(chǎn)力的時代背景下，AI技術(shù)的正向應(yīng)用和加速發(fā)展是經(jīng)濟高質(zhì)量發(fā)展的題中應(yīng)有之義。發(fā)展科技的初心和落點都是服務(wù)于人，服務(wù)于國家和社會。具體看，AI技術(shù)應(yīng)用必須“提上鞋再奔跑”，否則，難言可持續(xù)發(fā)展。針對當(dāng)前AI技術(shù)濫用亂象，必須抓緊時間研究有針對性的舉措，比如增強技術(shù)識別、技術(shù)對抗的能力，探索技術(shù)分類分級應(yīng)用，提高使用門檻等，這并非故意增加人們享用新科技的難度，而是提升技術(shù)落地過程中的專業(yè)性、責(zé)任感，最終以明邊界、守底線的約束力，實現(xiàn)科技向善。

讓安全和便捷成為AI技術(shù)應(yīng)用的一體兩面，成為技術(shù)發(fā)展與時代紅利的生動注腳，這無疑是對相關(guān)產(chǎn)業(yè)的挑戰(zhàn)，更是實現(xiàn)經(jīng)濟高質(zhì)量發(fā)展必須的選擇。