“網(wǎng)信中國(guó)”微信公眾號(hào)消息，“清朗·整治AI技術(shù)濫用”專(zhuān)項(xiàng)行動(dòng)自2025年4月啟動(dòng)以來(lái)，中央網(wǎng)信辦聚焦AI換臉擬聲侵犯公眾權(quán)益、AI內(nèi)容標(biāo)識(shí)缺失誤導(dǎo)公眾等AI技術(shù)濫用亂象，深入推進(jìn)第一階段重點(diǎn)整治任務(wù)，部署各地網(wǎng)信部門(mén)加大違規(guī)AI產(chǎn)品處置力度，切斷違規(guī)產(chǎn)品營(yíng)銷(xiāo)引流渠道，督促重點(diǎn)網(wǎng)站平臺(tái)健全技術(shù)安全保障措施，推動(dòng)生成合成內(nèi)容標(biāo)識(shí)加速落地。第一階段累計(jì)處置違規(guī)小程序、應(yīng)用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬(wàn)余條，處置賬號(hào)3700余個(gè)，各項(xiàng)工作取得積極進(jìn)展。
各地網(wǎng)信部門(mén)多措并舉，扎實(shí)推進(jìn)，積極履行屬地管理責(zé)任。北京網(wǎng)信辦開(kāi)設(shè)AI技術(shù)濫用治理舉報(bào)渠道，形成“用戶(hù)標(biāo)記—平臺(tái)核查—聯(lián)合處置”工作模式，處置有關(guān)舉報(bào)26篇。上海網(wǎng)信辦推動(dòng)標(biāo)識(shí)要求落地示范，組織開(kāi)展4場(chǎng)法規(guī)宣貫和專(zhuān)題交流，覆蓋企業(yè)400余家，屬地內(nèi)重點(diǎn)企業(yè)已基本完成顯式標(biāo)識(shí)規(guī)范上線(xiàn)。浙江網(wǎng)信辦加大對(duì)屬地AI應(yīng)用和網(wǎng)站平臺(tái)的督導(dǎo)力度，各平臺(tái)共攔截清理各類(lèi)違法違規(guī)信息及提問(wèn)2550萬(wàn)余條。江蘇網(wǎng)信辦加強(qiáng)統(tǒng)籌協(xié)調(diào)，聯(lián)合省通信管理局等部門(mén)排查AI風(fēng)險(xiǎn)域名163個(gè)，封堵和取消接入域名18個(gè)。天津網(wǎng)信辦采用“人工+技術(shù)”方式，開(kāi)展大模型安全監(jiān)測(cè)，通報(bào)4批次14個(gè)風(fēng)險(xiǎn)問(wèn)題。
重點(diǎn)網(wǎng)站平臺(tái)積極履行主體管理責(zé)任，加強(qiáng)AI技術(shù)濫用源頭治理。在處置違規(guī)AI產(chǎn)品方面，騰訊規(guī)范應(yīng)用程序管理，提高準(zhǔn)入門(mén)檻，優(yōu)化巡查機(jī)制，駁回、處置違規(guī)小程序、應(yīng)用程序等共計(jì)570余款。在清理違規(guī)AI產(chǎn)品教程和商品方面，微博通過(guò)策略識(shí)別、用戶(hù)舉報(bào)等多渠道審核，累計(jì)處置違規(guī)內(nèi)容4800余條，并公布典型案例。在加強(qiáng)訓(xùn)練語(yǔ)料管理方面，通義平臺(tái)圍繞數(shù)據(jù)生命周期建立安全管理體系，在數(shù)據(jù)采集、訓(xùn)練、使用等階段加強(qiáng)訓(xùn)練語(yǔ)料管理。在強(qiáng)化安全管理措施方面，抖音建立“紅藍(lán)對(duì)抗”機(jī)制，模擬攻擊案例，修復(fù)潛在安全漏洞，優(yōu)化模型對(duì)虛假信息的識(shí)別能力。在落實(shí)內(nèi)容標(biāo)識(shí)要求方面，阿里、快手、稀宇等重點(diǎn)平臺(tái)積極推進(jìn)元數(shù)據(jù)隱式標(biāo)識(shí)落地落實(shí)。在防范重點(diǎn)領(lǐng)域安全風(fēng)險(xiǎn)方面，小紅書(shū)在模型后置訓(xùn)練階段輸入專(zhuān)業(yè)領(lǐng)域數(shù)據(jù)，提升模型對(duì)醫(yī)療、金融、未成年人等重點(diǎn)領(lǐng)域問(wèn)題的理解能力。
下一步，中央網(wǎng)信辦將聚焦AI造謠、低俗內(nèi)容等7類(lèi)突出問(wèn)題，開(kāi)展“清朗·整治AI技術(shù)濫用”專(zhuān)項(xiàng)行動(dòng)第二階段工作，構(gòu)建技術(shù)監(jiān)測(cè)體系，形成處置處罰規(guī)范，推動(dòng)內(nèi)容標(biāo)識(shí)如期落地，形成長(zhǎng)效工作機(jī)制，著力維護(hù)清朗網(wǎng)絡(luò)生態(tài)，推動(dòng)人工智能向善向好。
