“清朗·整治AI技術(shù)濫用”專(zhuān)項(xiàng)行動(dòng)自2025年4月啟動(dòng)以來(lái)，中央網(wǎng)信辦聚焦AI換臉擬聲侵犯公眾權(quán)益、AI內(nèi)容標(biāo)識(shí)缺失誤導(dǎo)公眾等AI技術(shù)濫用亂象，深入推進(jìn)第一階段重點(diǎn)整治任務(wù)，部署各地網(wǎng)信部門(mén)加大違規(guī)AI產(chǎn)品處置力度，切斷違規(guī)產(chǎn)品營(yíng)銷(xiāo)引流渠道，督促重點(diǎn)網(wǎng)站平臺(tái)健全技術(shù)安全保障措施，推動(dòng)生成合成內(nèi)容標(biāo)識(shí)加速落地。（6月23日 《廣州日?qǐng)?bào)》）

《三體》作者劉慈欣曾這樣形容科技高速發(fā)展給生活帶來(lái)的巨變：“未來(lái)像盛夏的大雨，在我們還來(lái)不及撐開(kāi)傘時(shí)，就撲面而來(lái)?！比斯ぶ悄芗铀俚⒗顺北加肯蚯?，帶來(lái)前所未有的發(fā)展機(jī)遇，也帶來(lái)不容忽視的風(fēng)險(xiǎn)挑戰(zhàn)?！奥曇艨寺　睂?dǎo)致電信詐騙防不勝防，AI炮制虛假新聞撩撥網(wǎng)民情緒，“換臉視頻”引發(fā)的造謠誹謗時(shí)有出現(xiàn)，“AI幻覺(jué)”讓生成內(nèi)容真假難辨……今天，AI技術(shù)濫用逐漸打開(kāi)“潘多拉魔盒”，技術(shù)的“雙刃劍”效應(yīng)愈發(fā)具象化。

第一階段累計(jì)處置違規(guī)小程序、應(yīng)用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬(wàn)余條，處置賬號(hào)3700余個(gè)，各項(xiàng)工作取得積極進(jìn)展……此次專(zhuān)項(xiàng)行動(dòng)的階段性成果，向AI技術(shù)濫用亂象打出了一記雷霆重拳，彰顯我國(guó)在AI治理上的決心與執(zhí)行力。但正如有報(bào)道所指出的，當(dāng)前投入在AI安全研究與價(jià)值對(duì)齊方面的精力、時(shí)間、金錢(qián)和資源還遠(yuǎn)遠(yuǎn)不足，這也成為大模型落地行業(yè)的難題之一。如何確保安全、規(guī)范、合理地使用人工智能，這是擺在我們面前的深刻時(shí)代命題。

技術(shù)每前進(jìn)一步，治理就要跟進(jìn)一步。近年來(lái)，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等相關(guān)法律法規(guī)密集出臺(tái)，推動(dòng)人工智能治理沿著法治軌道向前邁進(jìn)。針對(duì)人工智能技術(shù)新特點(diǎn)，要始終堅(jiān)持包容審慎態(tài)度，完善相關(guān)法律體系建設(shè)，不斷創(chuàng)新、完善與之相適應(yīng)的監(jiān)管方式，讓治理始終跟隨技術(shù)發(fā)展的腳步前行。

從現(xiàn)實(shí)來(lái)看，人工智能算法具有“黑箱”特性，表現(xiàn)為行為不可控、決策機(jī)制難解釋等，這也要求平臺(tái)必須擔(dān)負(fù)起主體責(zé)任，積極完善管理細(xì)節(jié)。比如，要健全完善審核識(shí)別機(jī)制，對(duì)AI生成內(nèi)容第一時(shí)間添加明確標(biāo)識(shí)，加大對(duì)涉及重大事件、敏感話(huà)題中圖片、視頻的真?zhèn)魏瞬椋皶r(shí)甄別、攔截、處置不實(shí)信息和賬號(hào)。同時(shí)，要建立便捷的舉報(bào)和投訴渠道，對(duì)于網(wǎng)民反映的問(wèn)題及時(shí)予以查證、處理。

發(fā)展的問(wèn)題終歸要靠發(fā)展來(lái)解決。以技術(shù)對(duì)技術(shù)，以技術(shù)管技術(shù)，才能真正筑牢安全的底線(xiàn)。抖音建立“紅藍(lán)對(duì)抗”機(jī)制，優(yōu)化模型對(duì)虛假信息的識(shí)別能力；小紅書(shū)在模型后置訓(xùn)練階段輸入專(zhuān)業(yè)領(lǐng)域數(shù)據(jù)，提升模型對(duì)醫(yī)療、金融、未成年人等重點(diǎn)領(lǐng)域問(wèn)題的理解能力。這些都是切實(shí)可行的辦法。善用“技防”手段，“以子之矛，攻子之盾”，安全防護(hù)才會(huì)更及時(shí)、更智能、更高效。

人工智能的未來(lái)將往何處去？答案只有一個(gè)，那便是“以人為本、智能向善”。在規(guī)范中筑牢防線(xiàn)，在創(chuàng)新中釋放活力，這是技術(shù)服務(wù)于人、造福社會(huì)的必需，也是抓住產(chǎn)業(yè)變革新機(jī)遇、推動(dòng)人工智能健康有序發(fā)展的必然。（付迎紅）