生成式人工智能、深度合成等新技術(shù)快速發(fā)展，為生成合成文本、圖片、音視頻等提供了便利工具，在促進(jìn)經(jīng)濟(jì)發(fā)展、豐富網(wǎng)上內(nèi)容、便利公眾生活的同時(shí)，也造成虛假信息傳播、破壞網(wǎng)絡(luò)生態(tài)等問(wèn)題。

國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，《標(biāo)識(shí)辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識(shí)”關(guān)鍵點(diǎn)，通過(guò)標(biāo)識(shí)提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識(shí)責(zé)任義務(wù)，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識(shí)行為，以合理成本提高安全性，促進(jìn)人工智能在文本對(duì)話、內(nèi)容制作、輔助設(shè)計(jì)等各應(yīng)用場(chǎng)景加快落地。同時(shí)，減輕人工智能生成合成技術(shù)濫用危害，防范利用人工智能技術(shù)制作傳播虛假信息等風(fēng)險(xiǎn)行為，推動(dòng)人工智能健康有序發(fā)展。

探索顯隱雙標(biāo)識(shí)機(jī)制

“生成合成內(nèi)容標(biāo)識(shí)已成為國(guó)際慣例。”公安部第三研究所副所長(zhǎng)金波介紹，歐盟《人工智能法》、美國(guó)《編輯和深度偽造內(nèi)容來(lái)源保護(hù)完整性法案》、英國(guó)《人工智能（監(jiān)管）法案》等均對(duì)水印、標(biāo)識(shí)義務(wù)有要求。在我國(guó)，2023年1月施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》提出針對(duì)文本、圖像、音頻、視頻、虛擬場(chǎng)景等信息內(nèi)容的標(biāo)識(shí)要求，2023年8月施行的《生成式人工智能服務(wù)管理暫行辦法》承襲相關(guān)規(guī)定。此次《標(biāo)識(shí)辦法》明確，人工智能生成合成內(nèi)容標(biāo)識(shí)主要包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)兩種形式。顯式標(biāo)識(shí)是指在生成合成內(nèi)容或者交互場(chǎng)景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識(shí)；隱式標(biāo)識(shí)是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識(shí)?！稑?biāo)識(shí)辦法》要求，服務(wù)提供者提供的生成合成服務(wù)屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形的，應(yīng)當(dāng)按照要求對(duì)生成合成內(nèi)容添加顯式標(biāo)識(shí)；服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的規(guī)定，在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)；提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取技術(shù)措施，規(guī)范生成合成內(nèi)容傳播活動(dòng)。“我國(guó)迄今已備案生成式人工智能產(chǎn)品300余款，生成合成服務(wù)3000余個(gè)，有力推動(dòng)了人工智能行業(yè)的快速發(fā)展。”國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心正高級(jí)工程師張震表示，《標(biāo)識(shí)辦法》是對(duì)我國(guó)人工智能算法治理體系的進(jìn)一步完善。

實(shí)現(xiàn)全鏈條治理

《標(biāo)識(shí)辦法》明確，互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)在應(yīng)用程序上架或者上線審核時(shí)，應(yīng)當(dāng)要求服務(wù)提供者說(shuō)明是否提供人工智能生成合成服務(wù)。對(duì)此，張震談到，《標(biāo)識(shí)辦法》明確了文本、圖像、音頻、視頻等多模態(tài)的標(biāo)識(shí)要求，將安全治理深入到內(nèi)容模態(tài)層面，并創(chuàng)新性地將傳播平臺(tái)納入監(jiān)管范疇，實(shí)現(xiàn)從生成到傳播的全鏈條治理。值得注意的是，配套《標(biāo)識(shí)辦法》，強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》（以下簡(jiǎn)稱《標(biāo)識(shí)標(biāo)準(zhǔn)》）將于9月1日同步實(shí)施，以更好指導(dǎo)相關(guān)主體規(guī)范開展標(biāo)識(shí)活動(dòng)。“這開創(chuàng)了技術(shù)標(biāo)準(zhǔn)與管理制度配合實(shí)施的新型治理模式，標(biāo)志著我國(guó)人工智能安全治理邁入‘技管雙強(qiáng)’的新階段。”中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院副院長(zhǎng)范科峰認(rèn)為，二者協(xié)同發(fā)布，破解了以往治理中管理規(guī)范與技術(shù)標(biāo)準(zhǔn)銜接不暢的問(wèn)題。在他看來(lái)，作為我國(guó)人工智能領(lǐng)域首部“辦法+強(qiáng)標(biāo)”組合拳，其在管理維度明確生成、傳播、分發(fā)全鏈條主體責(zé)任，在監(jiān)管維度建立審核、監(jiān)測(cè)、追責(zé)的閉環(huán)機(jī)制，在技術(shù)維度規(guī)范顯隱標(biāo)識(shí)體系并預(yù)留創(chuàng)新空間，這種三位一體的治理架構(gòu)為人工智能安全治理提供了清晰的實(shí)施路徑。